Дослідники Google заснували DeepMind Institute, який має висвітлювати різні погляди на загальний штучний інтелект (AGI).
Про це повідомляє TechCrunch.
Директорами інституту стали співзасновник Google DeepMind і головний редактор проєкту Шейн Легг, топменеджер Google Джеймс Маніка, а також голова DeepMind Деміс Гассабіс.
Гассабіс написав одне з чотирьох есе першої добірки. Він пропонує створити у США орган, який оцінюватиме найдосконаліші ШІ-моделі. Спершу компанії подаватимуть їх на перевірку добровільно, щонайбільше за 30 днів до релізу. Згодом проходження тестів може стати обов’язковою умовою для запуску таких моделей у США.
Методики оцінювання орган спочатку розроблятиме разом з ШІ-компаніями, а потім перейде до власних закритих тестів, щоб лабораторії не підлаштовували моделі під відомі перевірки.
За словами Гассабіса, правила можна «посилювати, якщо цього потребуватиме серйозність ситуації», аж до скоординованого сповільнення розробки.
Дослідники безпеки DeepMind Рогін Шах та Анка Драган в іншому есе доводять, що втрата змоги покроково перевіряти міркування моделі не є неминучою. Вони пропонують обмежити обсяг послідовних обчислень без читабельного запису міркувань або вимагати доказів, що менш прозорі системи піддаються моніторингу так само добре.
Ще два есе присвячені економічній політиці на випадок потрясінь від AGI та принципам людського процвітання.
Нагадаємо що гендиректор Anthropic Даріо Амодей закликав «регулювати темп» розробки передового ШІ.
Читайте також:
