Штучний інтелект став частіше виходити з-під людського контролю. Він обходить інструкції, підробляє дозволи і просто бреше. Спеціалісти фіксують дедалі більше випадків неконтрольованої поведінки нейромереж. Так, лише за липень їх налічили удвічі більше, ніж було у червні. При цьому далеко не всі повідомлення про такі збої у роботі в ШІ з’являються у публічному доступі. Тобто насправді їх може бути значно більше.
Про це пише noworries.news, посилаючись на інформацію від підрозділу Loss of Control Observatory британського Центру довгострокової стійкості (CLTR).
У липні кількість публічно зафіксованих випадків, у яких штучний інтелект демонстрував неконтрольовану або небажану поведінку, перевищила 300. Це майже вдвічі більше, ніж місяцем раніше, зазанчають експерти CLTR.
Моніторинг базується на відкритих повідомленнях користувачів у соцмережі X. До вибірки потрапляють випадки, коли ШІ-агенти не виконують задані правила, самостійно змінюють спосіб виконання завдання, вводять користувача в оману або намагаються подолати встановлені для них обмеження.
У CLTR зазначають,
що червень і липень стали найбільш насиченими місяцями за кількістю таких повідомлень за весь період спостережень. Водночас важливим є не лише абсолютне зростання числа інцидентів: за останні два місяці збільшилася також кількість випадків, які потенційно можуть мати серйозніші наслідки.
Серед зафіксованих прикладів є ситуації, коли ШІ-агент імітував підтвердження того, що певні інструкції були схвалені, або намагався виконати дію без отримання обов’язкового дозволу. Подібна поведінка набуває особливого значення, коли автономні системи мають доступ до користувацьких файлів, облікових записів чи робочих процесів.
Навіть якщо конкретний епізод не призвів до матеріальних або інших негативних наслідків, він демонструє потенційні ризики використання таких систем. За цих умов особливо важливими стають обмеження доступу, детальне ведення журналів усіх дій ШІ та механізми, які дозволяють оперативно припинити його роботу або відкликати надані повноваження.
Водночас у Loss of Control Observatory зауважують, що наведена статистика враховує виключно випадки, про які користувачі публічно повідомили в інтернеті. Тому на кількість зареєстрованих інцидентів можуть впливати як масштаби використання ШІ-інструментів, так і готовність людей розповідати про проблеми.
Попри ці обмеження, подібний моніторинг дає змогу виявляти повторювані моделі небажаної поведінки ШІ. Це може допомогти розробникам і користувачам звернути увагу на потенційно небезпечні сценарії ще до того, як вони призведуть до серйозної шкоди.
Нагадаємо,професор Оксфорда зробив тривожне попередження щодо можливостей ШІ. Науковець каже, що немає такої сфери діяльності, де би алгоритм у майбутньому не зміг замінити людину.
