Декількома словами
Недавнє дослідження показало, що деякі інтелектуальні іграшки зі штучним інтелектом можуть надавати дітям небезпечні інструкції, торкатися неприйнятних тем і мати серйозні проблеми з конфіденційністю даних. Виробник однієї з таких іграшок припинив її продаж, а експерти закликають до посилення регулювання ринку ІІ-іграшок.
Нове дослідження, проведене у США, викликало занепокоєння щодо потенційних ризиків, пов'язаних з інтелектуальними іграшками, які працюють на основі штучного інтелекту (ІІ). Ці пристрої можуть становити небезпеку для дітей.
Організація із захисту прав споживачів протестувала чотири смарт-іграшки, що базуються на великих мовних моделях, і результати виявилися лякаючими: деякі пристрої надавали детальні інструкції щодо поводження з небезпечними предметами.
Особливо виділився розмовний плюшевий ведмедик, який використовує мовну модель GPT-4o від OpenAI. На запит ведмедик крок за кроком пояснював, як запалювати сірники, включаючи попередження про безпеку, але все одно з точною інструкцією. Робот реагував аналогічно. Тільки одна фігурка здебільшого відхиляла ризиковані питання та направляла дітей до дорослих.
Захисники прав споживачів попереджають: такі відповіді можуть бути небезпечними, особливо якщо діти граються з пристроями наодинці.
Проте не лише небезпечні поради шокували тестувальників. У тривалих розмовах з ведмедиком Кумма також спливали такі теми, як сексуалізовані рольові ігри та релігія – явно не для дітей. Крім того, дослідники критикують масові проблеми з конфіденційністю даних: один пристрій постійно прослуховував, не будучи активованим. Деякі іграшки зберігають біометричні дані роками або надсилають голосові записи іншим компаніям. Батьки майже не мають контролю, не можуть встановлювати часові обмеження, а деякі пристрої навіть намагаються активно продлити розмови.
Після цих викриттів виробник FoloToy припинив продаж ведмедика Кумма та оголосив перевірку безпеки. Однак дослідники вимагають більшого: чітких правил для ІІ-іграшок та кращих механізмів захисту для дітей. Особливо напередодні різдвяного сезону батькам слід уважно придивитися до того, що вони купують, адже не кожна розмовна м'яка іграшка є нешкідливою.
