Генеральний директор Anthropic Даріо Амодей заявив, що компанія не підтримує заборону відкритих моделей ШІ. Водночас він вважає, що найбільшу загрозу становить не сам відкритий код, а можливе використання ШІ авторитарними державами, зокрема Китаєм.
Про це пише видання TechCrunch.
Заяву Амодей опублікував після того, як у галузі почали обговорювати нібито підтримку Anthropic ідеї обмежити відкриті моделі, особливо китайського походження. Він наголосив, що компанія ніколи не виступала за такі заборони і не вважає їх ефективним рішенням.
Дискусія посилилася після відкритого листа, який оприлюднив засновник Nvidia Дженсен Хуанг. Документ підписали Nvidia, Meta, Microsoft, Hugging Face, Mistral та інші компанії. Вони закликали владу не запроваджувати передчасні широкі обмеження для відкритих моделей штучного інтелекту.
За словами Амодея, відкриті моделі, які не мають небезпечних можливостей, є корисними для бізнесу, розробників і науковців. Він зазначив, що не бачить проблеми в тому, що компанії використовують такі моделі, навіть якщо вони створені в Китаї.
Натомість головною загрозою він назвав сценарій,
за якого авторитарні держави створять потужніші системи ШІ, ніж США, і застосовуватимуть їх для військової переваги або посилення контролю над власним населенням. Амодей уточнив, що його занепокоєння стосується не лише Китаю, хоча саме цю країну він вважає найспроможнішою в цьому напрямку.
Також керівник Anthropic вважає, що розвиток штучного інтелекту може збільшити ризик не лише кібератак, а й біологічних загроз. На його думку, відкриті моделі складніше контролювати, а після їхнього оприлюднення відкликати їх уже неможливо.
Серед можливих заходів він назвав обмеження доступу Китаю до найпотужніших чипів, боротьбу з незаконним копіюванням можливостей моделей за допомогою методу дистиляції та створення міжнародної системи перевірки безпеки найпотужніших моделей ШІ. Амодей додав, що така система буде ефективною лише за участю всіх ключових країн, включно з Китаєм.
Читайте також:
