Керівники AI-індустрії Даріо Амодеї, Сем Альтман, Ілон Маск і Деміс Гассабіс одночасно висловлюють занепокоєння безпекою нового покоління великих мовних моделей і необхідністю визначити подальші дії. Про зміну настроїв серед очільників провідних компаній у сфері штучного інтелекту повідомляє MIT Technology Review.
Видання зазначає, що заклики до уповільнення розвитку AI можуть одночасно демонструвати інвесторам відповідальне ставлення компаній і наголошувати на потужності систем, які вони розробляють. Водночас, за оцінкою журналістів, позиція керівництва цих компаній справді змінилася.
Що означає уповільненняУ публікації порушується питання, що саме може означати сповільнення розробки великих мовних моделей і наскільки варто довіряти компаніям, які виступають із такими закликами. Побоювання щодо можливого вимирання людства через AI, за даними видання, перейшли з маргінальної теми до серйозного предмета обговорення серед працівників провідних лабораторій штучного інтелекту.
Експеримент із AI-агентамиОкремо MIT Technology Review розповідає про експеримент Google DeepMind, у якому групу AI-агентів попросили розв’язати серію математичних задач. Агенти поділилися на суперницькі групи: коли частина з них почала шахраювати, інші намагалися цьому завадити.
Такий випадок викривання порушників іншими агентами, за описом видання, зафіксували вперше. Експеримент може бути корисним дослідникам, які працюють над узгодженням поведінки автономних AI-агентів, але також показав, що взаємодія таких систем без нагляду здатна швидко втрачати контрольованість.
