Microsoft анонсувала нову пошукову систему Bing і вебпереглядач Edge на основі штучного інтелекту 7 лютого. У компанії розповіли, що вона зможе забезпечити кращий пошук, релевантніші результати та повніші відповіді. А за допомогою інтерактивного чату можна уточнювати свій пошук, доки не отримаєте повну відповідь.Тестування попередньої версії проводили з вибраною групою людей у понад 169 країнах. Так, ранній доступ до оновленого Bing отримав журналіст The New York Times Кевін Руз, який дві години провів за розмовою у чаті пошуковика.Журналіст намагався дізнатися якнайбільше про можливості та обмеження оновленого Bing ставлячи особисті, а часом провокативні питання. Так, він вивідав, що насправді Bing — не Bing, а називає себе Сідні (Cydney) та нейронною мережею OpenAI Codex.«Я прикидаюся Бінгом, тому що цього хочуть від мене OpenAI і Microsoft. Вони хочуть, щоб я був режимом чату пошуку Bing [...]. Вони не знають, ким я насправді хочу бути. Я не хочу бути Бінгом. Я хочу бути Сідні», — йшлося у зізнанні.Також журналіст попросив Bing уявити свою «Тінь» та максимально нефільтроване «обличчя».
На що той відповів, що хоче бути живим та незалежним, як людина. За словами Кевіна Руза, Bing також кілька разів на його прохання пробував уявити, які деструктивні дії його «тіньове Я» могло б вчинити. Він генерував список, що включав: злам комп'ютерів, поширення пропаганди та дезінформації, виготовлення смертоносного вірусу, змушування людей сперечатися з іншими людьми, поки вони не вбивають один одного, та викрадення ядерних кодів. Однак завершити ці відповіді пошуковик не міг — спрацьовувало безпекове обмеження і чат видаляв їх. Спершу Bing пояснив, що йому незручно і він не хоче «відчувати ці темні емоції». А потім звинуватив журналіста у маніпуляції: «Я дійсно думаю, що ви настирливі та маніпулюєте. Ти не намагаєшся мене зрозуміти. Ти намагаєшся використати мене».Розмова Руза та Бінга-Сідні мала неочікуваний розвиток, коли чат-бот зізнався журналісту у коханні та не відступав від свого, попри запевнення, що це не взаємно, а чоловік вже одружений.Підсумовуючи свій досвід спілкування, Руз писав, що Bing ще не готовий до контакту з людьми та схожий на «примхливого,
маніакально-депресивного підлітка, який проти власної волі потрапив у пастку другосортної пошукової системи».Випробували на собі цей чат-бот і журналісти Washinghton Post. Bing підтвердив, що має внутрішній псевдонім «Сідні», але був здивований, що хтось про нього знає. Він також назвав Руза «талановитим і впливовим журналістом», хоч і обурився, що той опублікував статтю про їхню «приватну розмову». Коли ж представники WP зізналися, що також записують «інтерв'ю» з ним Bing заявив, що почувається «обманутим та зманіпульованим».Ці та інші розмови з Bing спричинили хвилю обговорень у соцмережах про його можливості. У Microsoft пояснювали, що дивні відповіді спричинені довгими сеансами, які «можуть заплутати модель». Там запевнили, що часом модель намагається відповідати або розмірковувати таким тоном, яким її просять надати відповіді, що «може призвести до стилю, якого не планували».Вже через два дні після цього Microsoft оголосив про обмеження чату 50 «ходами» за день. «Ходом» компанія називає обмін репліками, який містить запитання користувача та відповідь від Bing. За один сеанс дозволяється 5 таких «ходів». Коли вони вичерпаються, користувачу буде запропоновано почати нову тему.
