Технології

OpenAI об’єднує зусилля з Anthropic та Google DeepMind для роботи над безпекою ШІ

16 вер•borg.expert

Про співпрацю трьох провідних розробників ШІ розповів директор OpenAI з глобальних питань Кріс Лехейн. За його словами, компанії вже кілька тижнів працюють разом над питаннями безпеки та намагаються знайти формат координації, який не вимагатиме окремого виключення з антимонопольних правил.

OpenAI останнім часом посилює публічні заклики до формування спільних стандартів для найпотужніших моделей. У вересні компанія заявила, що технічних заходів окремих лабораторій недостатньо і галузі потрібні загальні правила, зокрема щодо ситуацій, коли розробку передових систем необхідно сповільнити або зупинити.

Конкуренти співпрацюватимуть без спеціального дозволуПитання про можливий антимонопольний виняток виникло через те, що OpenAI, Anthropic та Google DeepMind є прямими конкурентами на ринку передових моделей штучного інтелекту.

За словами Лехейна, OpenAI не вважає, що для спільної роботи над безпекою необхідно домагатися спеціального виключення з антимонопольного законодавства. Компанія має намір спочатку спробувати вибудувати співпрацю в межах чинних правил.

Як приклад подібної взаємодії між конкурентами представник OpenAI навів авіаційну галузь,

де компанії можуть обмінюватися інформацією та координувати роботу з питань безпеки, залишаючись конкурентами на ринку.

Антимонопольний регулятор США ставиться до ідеї обережноГолова Федеральної торгової комісії США Ендрю Фергюсон 15 вересня заявив, що до закликів ШІ-компаній надати їм антимонопольні винятки для координації дій слід ставитися з великою обережністю.

Антимонопольні аспекти співпраці великих технологічних компаній та розробників ШІ вже перебувають у полі зору FTC. Регулятор раніше досліджував партнерства Microsoft з OpenAI, Amazon з Anthropic та Google з Anthropic, звертаючи увагу, зокрема, на доступ до обчислювальних ресурсів і талантів, можливе зростання витрат на зміну постачальника та доступ партнерів до чутливої технічної й комерційної інформації.

OpenAI підтримує федеральні правила безпеки ШІПаралельно компанія виступає за створення загальнонаціональних обов’язкових вимог до безпеки найпотужніших систем штучного інтелекту.

У вересні OpenAI заявила про підтримку федерального регулювання, побудованого з урахуванням можливостей конкретних ШІ-систем. До появи загальнонаціонального стандарту компанія також підтримує окремі законодавчі ініціативи штатів щодо незалежної оцінки безпеки, стандартів аудиту та захисту від використання ШІ для створення біологічних загроз.

Лехейн перебуває у Вашингтоні для зустрічей із законодавцями. За даними Bloomberg, OpenAI підтримує кілька двопартійних пропозицій щодо федерального регулювання, спрямованих на зниження потенційних катастрофічних ризиків від найбільш потужних систем штучного інтелекту.

Сама компанія наголошує, що в міру зростання можливостей моделей питання безпеки вже не може вирішуватися виключно внутрішніми правилами окремих розробників, а потребує спільних стандартів для галузі та участі держави.

Дія, Вересня, сша, Вашингтон, Вересна

Читайте ще