Злоупотребление и издевательства над новым искусственным интеллектом (ИИ) в приложении Snapchat стали трендом среди пользователей. Вместо того чтобы использовать функцию My AI для ее предназначенных целей, пользователи газлайтят, унижают и эмоционально мучают ИИ.
Портал TechCrunch привел несколько примеров, когда пользователи на TikTok убеждали ИИ говорить «семпай» («мастер») и просить милости. Подростки заставили чат-бот признать, что Луна — треугольник. Некоторые даже зло подшучивают над ним, например, спрашивая его о его матери и насмехаясь, когда нейросеть отказывается на эту тему отвечать.
Пользователи Snapchat продолжают издеваться над ИИ. Видео, демонстрирующие подобные случаи, становятся популярными на TikTok. Некоторые пользователи приводят его в романтическое настроение, другие провоцируют его на разговоры, нарушающие правила соцсети.
Некоторые родители уже выразили опасения относительно потенциально небезопасных или неприемлемых ответов ИИ в отношении молодых пользователей Snapchat. Сенатор Майкл Беннет выразил озабоченность главам компаний OpenAI, Microsoft, Snap, Google и Meta, указав на необходимость принятия мер для защиты детей при развертывании чат-ботов.
Разработчиков ИИ в России возьмут под контроль
Snapchat не только не останавливается, но и развивает My AI. Подписчики Snapchat+ теперь могут отправлять ИИ фотографии и получать генерируемые изображения в ответ, чтобы «поддерживать разговор».
SIBNET.RU В TELEGRAM