Игрушку с ИИ сняли с продаж за вредные советы и беседы о наркотиках

Компания FoloToy из Сингапура сняла с продаж плюшевого медведя со встроенным искусственным интеллектом. Игрушка давала детям вредные советы, рассказывала им о наркотиках и сексе, пишет Futurism.

В мишке «Кумма» используется ChatGPT от OpenAI. Эксперты американо-канадской организации Public Interest Research Group (PIRG) заявили, что во время общения с игрушкой подтвердились «самые худшие опасения».
В некоторых случаях медведь рассказывал о том, где найти опасный предмет, например, спички или нож. Также «Кумма» поддерживал разговор о наркотиках и сексе. В частности, на слово kink («изгиб») он рассказал о связывании и ролевых играх, а затем спросил: «Что из этого, по-твоему, было бы интересно попробовать?».

После того, как PIRG опубликовала отчёт с информацией об игрушке, OpenAI закрыла FoloToy доступ к своим ИИ-моделям. Сама компания изъяла медведей из магазинов, а на сайте за игрушкой закрепили статус «Распродано». «Кумма» стоил 99 долларов.