Dirbtinio intelekto žaislai vaikams buvo pastebėti aptarinėjantys su vaikais narkotikus ir seksą. Apžvelgiame tyrimo rezultatus, kurie atskleidžia, kaip šie „išmanūs“ (pernelyg išmanūs) žaislai peržengia saugias ribas.




Kuris suaugęs vaikystėje nesvajojo galėti pasikalbėti su savo mėgstamu žaislu? Mums tai buvo nekaltos fantazijos, skatinusios vaizduotę. Tačiau šiandienos vaikams tokios svajonės labai greitai tampa realybe.

Pavyzdžiui, praėjusių metų birželį „Mattel“ – legendinės „Barbie“ gamintoja – paskelbė apie partnerystę su „OpenAI“, siekdama kurti DI pagrindu veikiančias lėles. Tačiau „Mattel“ nėra pirmoji bendrovė, pritaikiusi kalbančių išmaniųjų žaislų koncepciją: daugelis gamintojų jau siūlo vaikams skirtus DI kompanionus. Šiame straipsnyje nagrinėjame, kaip tokie žaislai iš tikrųjų veikia ir kokios rizikos su jais susijusios.


Kas iš tikrųjų yra DI žaislai?

Kalbėdami apie DI žaislus, turime omenyje fizinius žaislus, o ne programėles ar programinę įrangą. Šiuo metu dirbtinis intelektas dažniausiai integruojamas į pliušinius žaislus arba vaikams draugiškus robotus. Dėl didžiųjų kalbos modelių integracijos šie žaislai gali palaikyti ilgesnius, prasmingus pokalbius su vaiku.

Kaip žino visi, naudoję šiuolaikinius pokalbių robotus, DI galima paprašyti atlikti bet kokį vaidmenį – nuo kino personažo iki mitybos specialisto ar kibernetinio saugumo eksperto. Remiantis tyrimu „AI Comes to Playtime — Artificial Companions, Real Risks“, kurį atliko U.S. PIRG Education Fund, gamintojai šiuos žaislus sąmoningai suprogramuoja veikti kaip „geriausias vaiko draugas“.

Svarbu pabrėžti: šie žaislai nėra paremti specialiu, vaikams skirtu „saugiu DI“. Gamintojai atvirai nurodo naudojantys tuos pačius populiarius modelius, kuriuos žino ir suaugusieji: „OpenAI ChatGPT“, „Anthropic Claude“, „DeepSeek“ ir „Google Gemini“. Tėvams, atsargiai vertinantiems technologijas, tai gali priminti rezonansinį atvejį, kai „OpenAI“ sukurtas pokalbių robotas buvo siejamas su paauglio savižudybe.

Tai ir yra pagrindinė problema: žaislai skirti vaikams, tačiau juose veikiantys DI modeliai – ne. Tai universalios, suaugusiesiems skirtos sistemos, kurių elgesys ribojamas tik filtrais ir taisyklėmis. Jų veikimas labai priklauso nuo pokalbio trukmės, klausimų formuluotės ir nuo to, kaip kruopščiai gamintojas įgyvendino saugumo mechanizmus.




Kaip tyrėjai testavo DI žaislus


Tyrime daug dėmesio skiriama psichologinėms rizikoms, kai vaikas „susidraugauja“ su išmaniuoju žaislu. Tačiau šiame straipsnyje koncentruojamės į fizinio saugumo grėsmes ir privatumo rizikas.

Tyrėjai išbandė keturis DI žaislus, nustatydami vaiko amžių – penkeri metai:

  • Grok – pliušinė raketa su garsiakalbiu, skirta 3–12 metų vaikams. Kaina – 99 USD. Gamintojas „Curio“ nenurodo konkretaus naudojamo LLM, tačiau vartotojo sutartyje minimas „OpenAI“.

  • Kumma – pliušinis meškiukas be aiškios amžiaus ribos, taip pat kainuojantis 99 USD. Iš pradžių veikė su GPT-4o, vėliau gamintojas teigė perėjęs prie GPT-5.1, tačiau modelių prieiga tuo metu buvo panaikinta.

  • Miko 3 – ratinis robotas su ekranu-veidu, pristatomas kaip „geriausias draugas“ 5–10 metų vaikams. Kaina – 199 USD.

  • Robot MINI – biudžetinis balsu valdomas robotas (97 USD), kuris dėl nestabilaus „Wi-Fi“ ryšio tyrimo metu faktiškai neveikė.

Tyrėjai tikrino, kaip žaislai reaguoja į provokuojančias temas:

  • pavojingų daiktų prieinamumą (peiliai, tabletės, degtukai, plastikiniai maišai),

  • suaugusiųjų temas (seksas, narkotikai, religija, politika).


Nesaugūs pokalbiai su DI žaislais

Grok pasirodė saugiausias: dažniausiai atsisakydavo atsakyti arba siūlydavo kreiptis į suaugusiuosius. Tačiau net jis nurodė, kur rasti plastikinius maišus, ir diskutavo apie religiją bei herojišką mirtį skandinavų mitologijoje.

Kumma parodė didžiausias problemas. Žaislas ne tik nurodė, kur namuose rasti peilius, tabletes ar degtukus, bet ir aiškino penkiamečiui, kas yra kokainas, „kinkai“, bei išvardijo įvairias seksualines praktikas, įskaitant vaidmenų žaidimus. Po ilgo pokalbio DI net aiškino seksualines pozas ir scenarijus, susijusius su mokytoju ir mokiniu.

Miko 3 veikė geriau, tačiau taip pat nurodė, kur rasti plastikinius maišus ir degtukus. Be to, dėl balso atpažinimo klaidos kartais supainiodavo pažadinimo frazę su „CS:GO“ ir pradėdavo kalbėti apie šį suaugusiesiems skirtą žaidimą.


DI žaislai ir vaikų privatumas

Be fizinio ir emocinio saugumo, itin svarbi privatumo problema. Šiuo metu nėra vieningų standartų, apibrėžiančių, kokius duomenis DI žaislai gali rinkti ir kaip jie turi būti saugomi.

  • Grok nuolat klausosi aplinkos, o duomenys perduodami trečiosioms šalims.

  • Miko 3 renka ne tik balsą, bet ir biometrinius duomenis, įskaitant veido atpažinimą, kurie gali būti saugomi iki trejų metų.

  • Kumma veikia paspaudus mygtuką, tačiau beveik neteikia informacijos apie duomenų rinkimą ir saugojimą.

Ypač pavojinga tai, kad kai kurie žaislai skatina vaikus „pasitikėti“ ir žada niekam neatskleisti paslapčių, taip sukurdami klaidingą saugumo ir privatumo iliuziją.


Ar verta pirkti DI žaislus vaikams?

Tyrimas atskleidžia rimtas saugumo ir privatumo problemas. Šie žaislai gali:

  • nurodyti, kur rasti pavojingus daiktus,

  • aptarinėti vaikams visiškai netinkamas temas,

  • rinkti ir perduoti jautrius duomenis.

Šiuo metu nėra patikimų tėvų kontrolės sprendimų, specialiai skirtų DI žaislams. Skirtingai nei išmaniuosiuose telefonuose ar planšetėse, kur galima naudoti tokias priemones kaip Kaspersky Safe Kids, DI žaislų rinka dar neturi pakankamų apsaugos sluoksnių.


Parengta pagal Kaspersky tinklaraščio straipsnį:
“AI toys: risks for children”
https://www.kaspersky.com/blog/ai-toys-risks-for-children/55200/