OpenAI готова сповільнити розробку найпотужніших моделей ШІ, але є умоваУ OpenAI допускають, що подальше нарощування можливостей передових моделей штучного інтелекту може відбуватися повільніше. Такий підхід компанія готова розглядати не самостійно, а разом з іншими провідними розробниками ШІ.
Про можливість координації таких дій генеральний директор OpenAI Сем Альтман говорив зі співробітниками на загальних зборах цього тижня. За його словами, компанія потенційно могла б разом із кількома іншими лабораторіями знизити темпи створення передових систем.
Водночас конкретного плану щодо цього наразі немає. Bloomberg із посиланням на джерела, знайомі із закритою зустріччю, зазначає, що про переговори між компаніями, досягнуті домовленості чи визначені строки можливого сповільнення не повідомлялося. Сам Альтман також визнав, що частина конкурентів може не підтримати таку ідею.
Для OpenAI це питання вписується у ширшу дискусію про спільні правила розвитку технології. Компанія раніше виступила за міжнародний підхід до оцінювання можливостей та ризиків штучного інтелекту.
На її думку, такі механізми мають, зокрема, визначати обставини, за яких розробку нових моделей варто пригальмувати або повністю припинити.
Певні кроки в цьому напрямку OpenAI вже робила. У серпні компанія зменшила темпи навчання частини своїх найпотужніших моделей, водночас направивши частину дослідників і доступних обчислювальних ресурсів на роботу над безпекою.
Паралельно компанія посилює обмеження щодо окремих нових систем. GPT-6 Astra стала першою моделлю OpenAI, якій присвоїли критичний рівень кіберможливостей. Перед її випуском компанія встановила додаткові обмеження доступу, а саму модель передали на перевірку державним установам США.
Таким чином, нинішня позиція OpenAI не означає односторонньої зупинки розробки. Йдеться саме про можливість узгодженого сповільнення роботи над найпотужнішими моделями, якщо аналогічний підхід підтримають інші провідні лабораторії.
