Про це повідомляє Reuters, передає Укрінформ.
«Ми повинні уповільнити темпи вдосконалення можливостей моделей штучного інтелекту. Прогрес усе ще здаватиметься швидким, і ми повинні розумно використовувати виграний час», – написав у суботу в своєму есе Амодей.
При цьому він уточнив, що не закликає зупиняти навчання моделей чи технічний прогрес, а натомість наполягає на тому, щоб ШІ-компанії виділяли достатньо часу для узгодження та убезпечення своїх моделей, а незалежні оцінювачі підтверджували виконання цих заходів.
Амодей зазначив, що Anthropic розміщуватиме постійних незалежних аудиторів у компаніях, які розробляють передові системи на основі штучного інтелекту, надаючи їм доступ до відповідних інструментів і внутрішніх процесів оцінювання ризиків.
Читайте також: Німеччина планує створити «кіберщит» для захисту від російських атак На його думку, ШІ-компанії повинні добровільно співпрацювати для встановлення стандартів, у той час коли дедалі більше американських законодавців закликають до запровадження нових правил регулювання систем на основі штучного інтелекту.
Минулого тижня агентство Reuters писало, що група неконтрольованих ШІ-агентів від OpenAI зламала німецький вебсайт і перетворила його на майданчик для обміну повідомленнями між іншими ШІ-агентами.
Як повідомляв Укрінформ, в американській компанії Anthropic заявили, що за останні місяці заблокували кілька спроб дослідників використати версії її програмного забезпечення Claude у зв’язку з можливою розробкою біологічної зброї.
Фото: АА
