Всемирная организация здравоохранения призывает в вопросах медицины относиться к «познаниям», созданным искусственным интеллектом больших языковых моделей, «с осторожностью». Об этом сообщают «Новости ООН».

Речь идет о таких быстро набирающих популярность платформах, как ChatGPT, Bard, Bert и других, которые имитируют человеческое общение. Их стремительное распространение в обществе и растущее экспериментальное использование в целях, связанных со здравоохранением, вызывает значительный интерес и настороженность экспертов ВОЗ. Они считают, что необходимо тщательно изучить риски, возникающие при их использовании, особенно принимая связанные со здоровьем решения.

В организации в целом с энтузиазмом относятся к надлежащему использованию новых технологий для поддержки медицинских работников, но в то же время эксперты опасаются, что поспешное внедрение непроверенных систем может привести к ошибкам медицинских работников, нанести вред пациентам, подорвать доверие к искусственному интеллекту и тем самым отсрочить применение таких технологий во всем мире.

«Языковые модели также могут не защищать конфиденциальные данные, которые пользователь предоставляет приложению для создания ответа. Ответы, сгенерированные языковой моделью, могут казаться авторитетными и правдоподобными для конечного пользователя. Однако они могут быть полностью неверными или содержать серьезные ошибки, а также использоваться не по назначению, например для создания и распространения весьма убедительной дезинформации в виде текстового, аудио- или видеоконтента», — говорится в сообщении.

ВОЗ предлагает разобраться с этими проблемами и получить четкие доказательства пользы больших языковых моделей до их широкого использования в здравоохранении и медицине.