Керівники провідних ШІ-компаній обговорюють заходи для уповільнення розвитку найпотужніших моделей, однак учасники TechCrunch Equity вказують на брак конкретних механізмів і правил.
Про це пише видання TechCrunch.
Дискусія активізувалася після того, як гендиректор Anthropic Даріо Амодеї запропонував план так званого «стримування темпів» розвитку передових систем штучного інтелекту. Ідею також обговорюють керівники OpenAI та інші представники галузі.
Серед запропонованих заходів називають залучення незалежних оцінювачів, які контролювали б безпеку ШІ-систем і фіксували інциденти всередині компаній. Ще одна пропозиція передбачає спільні стандарти безпеки та обмеження для великих ШІ-компаній у демократичних країнах, а також міжнародну координацію.
Водночас учасники подкасту TechCrunch Equity звернули увагу на те, що конкретні деталі цих ініціатив поки залишаються нечіткими. Зокрема, незрозуміло, що саме означатиме «уповільнення» на практиці та які обмеження воно передбачатиме.
Частина керівників галузі не підтримує ідею стримування темпів розвитку. Зокрема, гендиректор Nvidia Дженсен Хуанг заявляв,
що не допустить уповільнення розвитку ШІ, і виступав проти посилення обмежень.
У TechCrunch зазначили, що Nvidia безпосередньо зацікавлена у подальшому розвитку ШІ, оскільки компанія постачає чипи та інше обладнання для цієї галузі.
Учасники дискусії також поставили під сумнів здатність самого ринку забезпечити достатній контроль. Теоретично компанія, яка випустить небезпечний продукт, може втратити клієнтів і зіткнутися з регуляторами. Однак, за словами Шона О’Кейна, нинішня ситуація відрізняється від такого сценарію.
Він зазначив, що уряд США наразі не демонструє готовності широко застосовувати регулювання, а великі ШІ-компанії дедалі більше заробляють на корпоративних клієнтах. Через це споживачам складніше впливати на них своїм вибором.
Крім того, значні інвестиції дозволяють компаніям легше компенсувати можливі втрати. Тому дискусія про безпечніші темпи розвитку ШІ триває, але конкретного механізму, який би визначав межі такого уповільнення, поки немає.
Читайте також:
- Без абсолютної гарантії. Детектори не можуть на 100% визначити текст, створений штучним інтелектом
- Трамп на гучному зв’язку. Як президент США і голова Nvidia об'єдналися проти гальмування штучного інтелекту
- Так і планувалося? Голова OpenAI визнав, що деяких проблем зі штучним інтелектом уникнути неможливо
