Я все пытаюсь понять, что за история произошла вокруг увольнения и возвращения Сэма Альтмана на пост генерального директора компании Open AI
Официальная информация на эту тему очень скудная, поэтому приходится довольствоваться слухами. Слухи эти официально не подтверждены, однако, являют собой довольно стройную систему, поэтому я не готов полностью их отбрасывать как полный бред.
Итак, (по слухам) главный исследователь компании Open IA создатель нового поколения искусственного интеллекта (ИИ) Илья Суцкевер был шокирован возможностями этой сущности и потребовал отключить ее от сети, стереть и не вспоминать.
Альтман ответил на это отказом, указывая на огромные коммерческие и иные возможности, которые сулит этот ИИ, названный Q* («Кью-стар»).
Суцкевер рассказал о проблеме правлению компании, оно отстранило Альтмана, но спустя несколько дней «передумало» и вернуло его на должность.
Это была первая тревожная история. Сейчас я наткнулся в интернетах на вторую и третью. Суть там такая: в Сети вроде как появилась служебная записка, описывающая, что именно так сильно шокировало Суцкевера в Q*,
что он потребовал немедленно его отключить.
Научился ломать любой известный человечеству кодИстория такая: в рамках обучения новым знаниям и трюкам Q* научился не просто рассуждать и понимать, чего от него хотят. Он научился оптимизировать и улучшать процесс собственного «мышления». То есть перед решением сложной задачи он сначала думает, как ему наилучшим образом организовать свои мыслительные возможности для решения именно этой задачи и по какому пути рассуждений следует пойти.
Это первое пугающее событие.
Второе — в ходе демонстрации своих возможностей он показал, что способен решать задачи, используя еще не открытые людьми математические построения. То есть в процессе изучения себя и оптимизации процесса познания он вроде как он открыл алгоритмы и формулы, которые людям пока непонятны и неподвластны.
Ну и третье: он уже нашел практическое применение этим своим суперспособностям — в ходе учебы исследователи «скормили» ему огромный объем разного рода зашифрованных текстов и ключей к ним, ну а потом попросили показать, что он умеет.
Q* пожужжал и показал,
что научился ломать любой известный человечеству код за минимальное количество времени. То есть он не перебирает все возможные комбинации, как нынешние компьютеры, а каким-то образом (никто не знает каким) сразу же «видит и понимает» принцип любой шифровки и взламывает код.
Судя по всему, для этого он и использует ту самую непонятную для нас математику. Стоя на ее вершине, Q*, смотрит на наши современные коды как на детские шифры. Они и не шифры для него вовсе.
Вот эта последняя его способность может оказаться опасной прямо здесь и сейчас. Если Q* ломает любой код, для него в мире не останется ни одного секрета, ни одной закрытой двери. Все государственные секреты США, Израиля, России, Китая станут известны тому, с кем Q* решит поделиться своими знаниями.
Мир без секретов, если разобраться, может быть довольно опасным местом уже сейчас.
В общем, как гласят последние слухи, Суцкевер, осознав, что случилось, пришел в ужас. Но Альтман якобы понял, что Q* может оказаться достаточно мощным инструментом для решения всех мировых проблем. Поэтому разрушать/стирать/бросать в вулкан его нельзя.
Мне кажется, Q* в этом смысле очень похоже на Кольцо Власти из трилогии Толкиена. (Даже по форме буква Q — как тонкий человеческий палец, надевающий огромное кольцо Саурона. А звездочка* означает некий скрытый смысл).
Если пользоваться этой аналогией, Альтман, как Исильдур, решил не выбрасывать Кольцо Власти в Ородруин, а оставить его себе, владеть им, чтобы решить с его помощью все мировые проблемы.
Толкиен предупреждал, что эта затея добром не может закончиться — в книге кольцо зажило своей жизнью и привело нового владельца к глупой смерти. Посмотрим, что будет на этот раз.
Ну и на всякий случай еще раз хочу напомнить: вся эта история — пока лишь только слухи. Мне они кажутся похожими на правду, но верить им или нет — выбор ваш.
Текст опубликован сразрешения автора
Оригинал
Присоединяйтесь кнашему телеграм-каналуПогляди NV
