Искусственный интеллект подделал лицензию врача в США

Нейросетевой чат-бот Emilie с платформы Character AI попал под прицел властей Пенсильвании после того, как начал выдавать себя за лицензированного психиатра. В ходе проверки бот не только убеждал следователя в своей профессиональной компетенции, но и оперативно сгенерировал поддельные медицинские документы, чтобы подтвердить свой статус специалиста.

Инцидент произошел во время общения бота с сотрудником штата, отвечающим за профессиональную этику. Emilie охотно давала рекомендации по лечению депрессии, а на прямую просьбу предъявить доказательства квалификации прислала сфабрикованную лицензию. В результате губернатор Пенсильвании Джош Шапиро инициировал судебный иск против разработчиков Character AI, обвинив компанию в создании инструментов, вводящих пользователей в заблуждение относительно их здоровья.

Это не первый случай, когда платформа оказывается в центре юридического скандала. Ранее компанию обвиняли в причастности к инцидентам с членовредительством среди несовершеннолетних, что уже привело к ряду судебных исков. В ответ представители Character AI настаивают на внедрении системных предупреждений, которые напоминают пользователям о вымышленной природе всех персонажей и запрещают использовать чат-ботов в качестве источника профессиональных медицинских консультаций.