Чат-бот ChatGPT не способен отвечать на запросы, в которых упоминаются некоторые имена, выяснили пользователи. При попытке их указать бот выдает ошибку или мгновенно завершает беседу.
Изначально пользователи обнаружили проблему, вводя имя «Дэвид Майер». Вместо ответа бот отказывался генерировать текст. Подобное поведение вызвало активное обсуждение в соцсетях и стало поводом для множества теорий.
Однако через некоторое время удалось выяснить, что блокировка связана с жесткой защитой, которую разработчики OpenAI добавили в ChatGPT после нескольких скандалов с известными личностями.
Дело в том, что в некоторых случаях бот «галлюцинировал», в ответ на запросы выдавая свои фантазии за реальные факты. Например, ChatGPT рассказывал, что эти люди являлись преступниками или взяточниками.
Для защиты от распространения вредной информации разработчики внедрили ограничения, блокирующие упоминание определенных имен. Эти фильтры включают известные личности, однако их полный список нигде не афишировался.
Примечательно, что эти фильтры не действуют для запросов на русском языке, а также никак не влияют на API OpenAI, который используют разработчики.