Шейн Джонс,
співробітник Microsoft, звернувся до Федеральної торгової комісії США (FTC) із занепокоєнням щодо безпеки ШІ-інструмента для генерації
зображень Copilot Designer. Про це повідомляє The Verge.За словами Джонса, він неодноразово
попереджав Microsoft про те, що Copilot Designer здатний генерувати шкідливий
та образливий контент, проте компанія відмовилася відкликати інструмент. Під
час тестування інженер виявив, що ШІ може створювати зображення демонів,
монстрів, сцен насильства, а також неповнолітніх, які вживають алкоголь та
наркотики.Крім того, Copilot Designer
генерував зображення персонажів Діснея в контексті конфліктів на Близькому
Сході, наприклад, Ельзу з «Крижаного серця» на тлі зруйнованих будівель у секторі Газа або у формі Армії
оборони Ізраїлю.Джонс намагався попередити
Microsoft про проблеми, пов'язані з моделлю DALL-E 3, яку використовує Copilot Designer, з грудня минулого року. Він
опублікував відкритий лист на LinkedIn, але
юридична команда компанії попросила його видалити пост.Протягом останніх трьох місяців я
неодноразово закликав Microsoft вилучити Copilot Designer з публічного доступу,
поки не будуть впроваджені кращі засоби захисту. Проте, вони не змогли
впровадити ці зміни і продовжують продавати продуктУ січні Джонс також написав групі
американських сенаторів про свою стурбованість після того, як лазівка у Copilot Designer дозволила згенерувати відверті зображення Тейлор Свіфт. Генеральний директор Microsoft Сатья Наделла назвав ці зображення «тривожними і жахливими» та заявив, що
компанія попрацює над додаванням додаткових засобів безпеки.Раніше SPEKA писала, що Джонс розкрив вразливості DALL-E 3, які дозволяли створювати діпфейки.
