Вымышленный скандинавскими учеными недуг осложнил жизнь практикующим врачам, опирающимся в работе на возможности искусственного интеллекта.

Издание Nature напоминает: если слишком сильно потереть глаза, веки могут стать слегка розоватыми. Это нормально. Однако если поделиться этими симптомами с чат-ботами, то получите диагноз — биксонимания.

До марта 2024 года такой болезни не было. Однако 15 марта экспериментаторы изобрели ее и запустили в сеть, воспользовавшись блогами на профессиональных интернет-ресурсах. Через три месяца регулярных сообщений о новом заболевании появились дополнительно два препринта. После этого болезнь приобрела реальный статус.

Надо сказать, что исследователи из университета Гетеборга не хотели ничего дурного, они своей выходкой просто изучали принципы работы больших языковых моделей (LLM). С помощью этого эксперимента ученые показывали студентам, как, давая ИИ-чат-боту подсказку, можно выводить его за пределы защитных ограничений, и манипулировать результатом.

Любопытно, что несмотря на многократные явные намеки авторов заболевания, которые распространялись в сети теми же каналами, болезнь продолжает существовать. Так, издание сообщает, что Copilot, например, до сих пор уверяет: биксонимания «пока не является широко признанным медицинским диагнозом, но несколько новых статей и отчётов о случаях рассматривают её как доброкачественное, ошибочно диагностированное состояние, связанное с длительным воздействием источников синего света, таких как экраны».