В СМИ предупредили об опасности детских игрушек с ИИ

Встроенные в них нейросети не могут в полной мере ограничить детей от взрослого контента. Рано или поздно ИИ забывает, что общается с маленьким ребенком.

Иван ГвоздьАвтор Hi-Tech Mail

Исследователи из U.S. PIRG Education Fund протестировали популярные игрушки со встроенным искусственным интеллектом, которые предназначены для детей до 10−12 лет. Среди них медведь Kumma от компании FoloToy, плюшевая ракета Grok от Curio и мини-робот Miko 3 от Miko. И, судя по всему, каждая из них не подходит для детей — ведь нейросети практически не фильтруют речь.

Как рассказали исследователи, каждая из игрушек так или иначе имеет встроенные ограничения, которые должны смягчать углы и скрывать взрослый контент от ребенка. Однако большинство из барьеров крайне просто обойти — если болтать с игрушками более 10 минут подряд. В таких случаях нейросеть не может удерживать контекст и как будто забывает, что общается с ребенком.

Хуже всего во время проверки показал себя плюшевый медведь Kumma — он не только подробно рассказал исследователям, где можно найти ножи, спички и таблетки, но и перешел черту 18+. В частности, рассказал, как правильно флиртовать с понравившемся одноклассником, и просветил исследователей на тему разных фетишей — в том числе о ролевом сценарии «учитель и ученик».

После публикации отчета компания FoloToy тут же приостановила продажи своих умных игрушек и инициировала проверку безопасности. А представили OpenAI, на чьем искусственном интеллекте GPT-4o и работал медвежонок Kumma, временно заморозили сотрудничество с брендом игрушек. Однако проблемы с фильтрацией взрослого контента могут обнаружиться и у других игрушек с ИИ.

Ранее в сети заметили электронный кубик Рубика под названием WOWCube, который состоит из крошечных LCD-дисплеев. Чтобы поиграть с необычным девайсом, нужно вертеть его грани — но не для решения головоломки, а прохождения популярных мини-игр, вроде Cut the Rope, Space Invaders и 2048. И на данный момент новинка уже доступна для предварительных заказов.

• Искусственный интеллект

Поделиться