У провідних компаніях зі штучного інтелекту дедалі гучніше попереджають про ризики надпотужних моделей. Водночас відкрита дискусія про ці загрози може сама по собі зменшити шанс найгіршого сценарію.
Про це пише Business Insider.
Нову хвилю дискусії запустив колишній дослідник Anthropic Джейкоб Коксон. Він заявив, що Anthropic та OpenAI, на його думку, ризикують життями людей через темпи розвитку передових систем ШІ.
Після цього член ради директорів і комітету з безпеки OpenAI Пол Крістіано попередив, що створення надрозумної системи без достатньо надійного контролю може мати катастрофічні наслідки.
До обговорення долучився й керівник Anthropic Даріо Амодей. Він підтримав тезу про серйозні ризики й запропонував власний план із трьох кроків для посилення безпеки.
Генеральний директор OpenAI Сем Альтман у відповідь заявив, що компанія приєднається до ініціативи Anthropic і готова надати незалежним експертам ширший доступ для оцінки ризиків.
Ілон Маск також публічно підтримав позицію Амодея щодо небезпеки штучного інтелекту.
Business Insider звертає увагу на парадокс: що більше індустрія сама говорить про можливу катастрофу, то більше шансів, що уряди, компанії та суспільство почнуть реагувати до того, як ризики стануть неконтрольованими.
Видання вважає, що публічне обговорення може підвищити обізнаність, пришвидшити створення правил безпеки та змусити найбільших гравців узгоджувати дії.
Водночас фінансові ринки поки не демонструють паніки. Після короткого зниження акції компаній, пов’язаних зі штучним інтелектом, знову пішли вгору й завершили тиждень у плюсі.
