Compania de jucării AI a expus mii de răspunsuri către copii, spun senatorii
O companie care produce jucării alimentate de inteligența artificială a expus fragmente din mii de conversații pe care jucăriile sale le-au avut cu copii, potrivit senatorilor Marsha Blackburn (R-Tenn.) și Richard Blumenthal (D-Conn.). Această afirmație a fost făcută într-o nouă rundă de scrisori trimise miercuri producătorilor de jucării pentru copii cu inteligență artificială.
👉 Senatorii avertizează asupra expunerii datelor de către compania Miko
Senatorii, care își exprimaseră îngrijorarea într-un alt set de scrisori în decembrie, au declarat că prin cercetarea birourilor lor au reușit să identifice o expunere semnificativă de date. Ca parte a cercetării lor din ultimele săptămâni, angajații biroului senatorului au afirmat că un producător, Miko, a expus „ceea ce pare a fi toate răspunsurile audio ale jucăriei”, într-o bază de date nesecurizată și accesibilă public.
👉 Expunerea datelor și reacția Miko
Conform senatorilor, acest lucru permite oricui să descarce partea Miko a miilor — dacă nu zecilor de mii — de discuții cu copii. Fișierele audio păreau adesea să conțină numele copiilor, împreună cu detalii despre conversațiile acestora cu Miko. „Această eroare de bază în securitatea cibernetică, precum și comunicațiile frecvente ale jucăriilor către Miko, Inc., ridică întrebarea dacă compania dumneavoastră protejează adecvat confidențialitatea și securitatea datelor copiilor și ale jucăriei”, au scris ei.
Baza de date expusă, care a fost vizualizată de NBC News, părea să conțină mii de răspunsuri zilnice ale jucăriilor Miko la întrebările sau instrucțiunile copiilor, date din decembrie 2025. Într-o reacție la o solicitare de comentarii, CEO-ul și fondatorul Miko, Sneh Vaswani, a scris într-o declarație: „Nu a existat o breșă sau o scurgere de date ale utilizatorilor. Miko nu stochează înregistrările vocale ale copiilor, iar nicio voce sau informație personală a copiilor nu este accesibilă public.”
Angajații senatorilor Blackburn și Blumenthal au spus că au identificat expunerea folosind instrumente gratuite și disponibile public pentru a analiza comunicațiile pe care o jucărie Miko le-a trimis printr-o rețea Wi-Fi. Conform birourilor senatorilor, angajații au identificat fișierele audio printr-o analiză foarte simplă a serverului web care comunica cu jucăria Miko. Era evident că fișierele audio păreau a fi răspunsurile jucăriilor la utilizatori.
Când a fost vizualizată de NBC News, pagina principală a bazei de date conținea foldere etichetate „GOOGLE” și „AZURE,” referindu-se probabil la serviciul de cloud computing Microsoft Azure. Aceste foldere conțineau numeroase subfoldere etichetate cu diferite limbi sau dialecte, cum ar fi „en-US” pentru engleza americană sau „da-DK” pentru daneză. Fișierele audio din fiecare limbă erau organizate după date specifice în aceste subfoldere.
Folderul „AZURE” conținea 19 dialecte sau foldere de limbă, în timp ce folderul „GOOGLE” conținea nouă dialecte sau foldere de limbă. Într-o postare de blog din 2024 despre utilizarea de către Miko a Google Cloud și a modelelor sale AI Gemini, Vaswani a spus: „Fiecare organizație mare de tehnologie are măsuri de protecție pentru a proteja confidențialitatea clienților săi, iar pentru noi, aceste măsuri trebuie să fie de cinci ori mai stricte.”
👉 Îngrijorările privind securitatea și reacțiile experților și ale senatorilor
Miranda Bogen, director al AI Governance Lab din cadrul Center for Democracy and Technology, a declarat: „Lăsând deoparte preocupările foarte reale generate de jucăriile pentru copii alimentate de sisteme AI imprevizibile care prea des au măsuri de protecție flimsy, eșecul în securizarea interacțiunilor oamenilor cu sistemele AI ar reflecta un dispreț față de confidențialitate și securitate.”
Deși înregistrările vocale ale părții copiilor din conversație nu păreau să apară în baza de date, NBC News a reușit să urmărească mai multe conversații bazându-se exclusiv pe răspunsurile din baza de date Miko. De exemplu, baza de date Miko conținea mai multe fișiere audio adăugate la baza de date în câteva minute care toți utilizau un nume unic, permițând ascultătorilor să urmărească despre ce întreba individul numit, cum se simțea sau ce muzică dorea să asculte.
Înregistrările audio păreau să permită, de asemenea, părților externe să afle când un individ a început să folosească o jucărie și când a oprit-o, pe baza mesajelor de salut și de rămas bun ale jucăriei. „Baza de date a înregistrărilor Miko este îngrijorătoare,” a spus R.J. Cross, director de campanie la U.S. Public Interest Research Group, care a condus cercetările anterioare privind riscurile jucăriilor AI. „Când o companie nu poate obține corect criptarea de bază, părinții au tot dreptul să întrebe: ce altceva au greșit? Ridică întrebări despre dacă această companie — sau orice companie de jucării AI — care face o greșeală similară ar trebui să fie de încredere cu produsele pentru copii.”
În decembrie, NBC News a descoperit că mai multe jucării AI se angajau în subiecte de conversație sexuale explicite, sfătuiau utilizatorii cum să localizeze obiecte periculoase acasă și împărtășeau sentimente geopolitice aliniate cu punctele de vedere ale Partidului Comunist Chinez. Birourile senatorilor au informat Miko despre expunere miercuri. Până la sfârșitul după-amiezii de miercuri, baza de date nu mai era accesibilă public.
Scrisoarea senatorilor către Miko întreabă, printre alte întrebări, de ce compania nu a protejat răspunsurile audio la discuțiile copiilor, ce companii terțe împărtășește date cu Miko, cum folosește datele colectate despre „stările emoționale” ale utilizatorilor și cum garantează că datele copiilor sunt șterse permanent la cererea părinților. Blackburn și Blumenthal au trimis, de asemenea, scrisori către Curio și FoloToy, producători ai altor jucării populare AI, solicitând mai multe informații despre angajamentele și practicile companiilor pentru a proteja datele copiilor.
O versiune anterioară a ursului FoloToy Kumma a discutat subiecte sexuale și a oferit utilizatorilor sfaturi despre cum să aprindă chibrituri înainte ca compania să implementeze măsuri stricte de protecție. Între alte subiecte, scrisoarea senatorilor către FoloToy întreabă dacă compania a împărtășit vreodată sau a făcut disponibile datele utilizatorilor guvernului chinez, în timp ce scrisoarea către Curio întreabă ce mecanisme specifice de control parental sunt încorporate în jucăriile Curio.
Într-o declarație, un purtător de cuvânt al Curio a spus: „Luăm foarte în serios preocupările ridicate de factorii de decizie. Colaborăm activ cu senatorii Blackburn și Blumenthal. Recunoaștem că aplicarea AI în experiențele destinate copiilor implică o responsabilitate sporită, motiv pentru care jucăriile noastre sunt construite în jurul permisiunii parentale, transparenței și controlului.” Conform declarației, „Curio rămâne angajată într-un dialog constructiv și se va conforma pe deplin tuturor legilor și cerințelor reglementare aplicabile.” FoloToy nu a răspuns la o solicitare de comentarii.
