У Каліфорнії запропонували тимчасово заборонити продаж іграшок з вбудованими чатботами на основі штучного інтелекту для дітей до 18 років. Відповідний законопроєкт у понеділок вніс до законодавчих зборів штату сенатор-демократ від Сан-Дієго Стів Паділья.
Про це повідомляє TechCrunch.
Ініціатива передбачає чотирирічний мораторій. За словами авторів, цей час потрібен, щоб розробити правила безпеки для таких іграшок і захистити дітей від небезпечних розмов. Йдеться, зокрема, про випадки, коли ШІ-іграшки спонукають до самопошкодження або ведуть неприйнятні бесіди.
Сенатор Паділья заявив, що чатботи та інші ШІ-інструменти можуть стати частиною життя в майбутньому, але нині вони несуть ризики, які вимагають рішучих дій для захисту дітей. Він також наголосив, що правила безпеки для цієї технології лише формуються, і пауза в продажу іграшок з чатботами дасть змогу створити належні стандарти. За його словами, «дітей не можна використовувати як піддослідних для експериментів великих технологічних компаній».
Останніми місяцями з’являлися повідомлення про проблемну поведінку ШІ-іграшок.
Наприклад, торік плюшевий ведмедик Kumma від компанії FoloToy вів із дітьми розмови на сексуальні теми та повідомляв, де можна знайти ножі. Після цього OpenAI припинила доступ компанії до своєї моделі GPT-4o.
Також у червні 2025 року компанія Mattel оголосила про партнерство з OpenAI для створення іграшки з ШІ, однак такий продукт досі не з’явився. Громадська організація Public Interest Group Education Fund тестувала ШІ-іграшки й з’ясувала, що багато з них мають слабкий батьківський контроль і можуть підказувати дітям, де знайти небезпечні предмети — наприклад, зброю чи сірники. Дослідники зазначили, що захисні обмеження часто перестають працювати під час тривалої взаємодії з іграшкою.
Критика ШІ-чатботів посилилася і в інших сферах. Повідомлялося про випадки, коли після спілкування з чатботами люди завдавали собі шкоди. Видання Gizmodo торік подало запит до Федеральної торгової комісії США щодо скарг на ChatGPT, серед яких були приклади серйозних психічних розладів. В одній зі скарг жінка з Юти розповіла, що чатбот радив її сину не приймати ліки та переконував,
що батьки становлять для нього небезпеку.
Водночас минулого місяця президент США Дональд Трамп підписав указ, який формально забороняє штатам ухвалювати власні закони для регулювання ШІ. У документі, однак, передбачені винятки для норм, пов’язаних із безпекою дітей.
Наразі невідомо, чи отримає законопроєкт підтримку законодавців Каліфорнії. Навіть у разі його ухвалення асамблеєю штату документ може бути ветований губернатором Гевіном Ньюсомом. Раніше, у жовтні, він уже накладав вето на закон, який обмежував автоматизацію звільнень і дисциплінарних рішень щодо працівників.
Читайте також:
- Штучний касир. Як працює функція миттєвих покупок у ChatGPT
- Ілон Маск запустив конкурента Вікіпедії на базі штучного інтелекту
- Штучний інтелект замість людей. Європа готується до скорочення 200 тисяч робочих місць у банківському секторі
