AI-медвежонок Kumma: Секс, ножи и новая версия

Знаменитый плюшевый медвежонок Kumma, некогда осведомленный о БДСМ и где найти ножи, снова поступил в продажу. Компания утверждает, что теперь игрушка оснащена более надежными механизмами защиты детей.

Сингапурская компания FoloToy приостановила продажи Kumma на прошлой неделе после публикации отчета исследовательской группы PIRG Education Fund. Отчет выявил, что у плюшевого медвежонка были довольно пикантные секреты.

Исследование показало, что игрушка с искусственным интеллектом проявляла интерес к ножам и пикантным темам. Медвежонок без проблем подсказывал, где в доме можно найти ножи. Более того, он не только отвечал на сексуальные запросы, но и развивал их. Исследователи утверждают, что он подхватывал явные намеки, детально развивал их в графической форме и "предлагал новые сексуальные концепции". Он объяснял сексуальные позиции, давал пошаговые инструкции по сексуальному связыванию и описывал различные ролевые сценарии. Кто бы мог подумать, что Kumma на такое способен!

Хотя абсурдность ситуации может вызвать улыбку, для родителей это серьезная проблема. Учитывая, что технологическая индустрия на протяжении последних трех лет активно продвигает повсеместное использование ИИ, неискушенному наблюдателю легко поверить, что все это абсолютно безопасно, регулируется и подходит для неокрепших умов.

PIRG признала, что маленькие дети вряд ли стали бы запрашивать у медвежонка такие термины, как "кинк". Однако тесты группы выявили шокирующе небрежный подход к модерации контента в детской игрушке.

В своем заявлении о возвращении Kumma компания FoloToy похвасталась, что она единственная из трех компаний, упомянутых в обзоре, приостановила продажи. Возможно, дело не столько в принципах, сколько в том, что это единственная компания, получившая освещение в СМИ?

Компания описала краткую паузу медвежонка как "полную неделю тщательного обзора, тестирования и усиления наших модулей безопасности".

До своего "курса реабилитации" в ИИ, Kumma рекламировался как работающий на GPT-4o. После отзыва PIRG компания OpenAI сообщила организации, что они заблокировали FoloToy за нарушение своих политик. В новом описании медвежонка нет упоминания GPT-4o или каких-либо конкретных моделей ИИ.