Фото: Andon Labs
Про це пише Time.
На початку цього року стартап із досліджень штучного інтелекту Andon Labs запустив експериментальний проєкт, щоб з'ясувати, чи здатні ШІ-агенти успішно керувати бізнесом. Для роботи в магазині Andon Market у Сан-Франциско за справжніми трудовими договорами найняли реальних людей, а роль менеджера віддали версії моделі Claude від компанії Anthropic.
Видання зазначає, що хоча випадки автоматизованого звільнення робітників (особливо в гіг-економіці) траплялися й раніше, це перший відомий приклад, коли рішення про звільнення підлеглого ухвалила саме велика мовна модель.
Обмежена пам'ять і підказка від людиниПідставою для звільнення стали систематичні порушення: працівник запізнився на 17 із 23 своїх робочих змін. Claude довго не помічав систематичних запізнень, бо просто «забув» про складений ним регламент роботи — через обмеження робочої пам'яті цей документ випав із контексту бота. Працівники магазину зазначають, що ШІ-менеджер загалом демонстрував надмірну м'якість і закликав підлеглих не хвилюватися через запізнення.
Генеральний директор Andon Labs Лукас Петерссон зазначив,
що керівник-людина звільнив би цього співробітника значно раніше, тому рішення не вважають неетичним.
Водночас аналіз журналів управління магазином свідчить, що звільнення не було повністю автономним. Claude потребував регулярного коригування дій з боку співробітника Andon Labs. Лише після того, як людина-оператор попросила бота знайти й переглянути забуті правила, той звернув увагу на запізнення. Початковою рекомендацією Claude було лише офіційне попередження. Рішення про звільнення ШІ ухвалив тільки після того, як представник стартапу повідомив про попередні усні розмови з порушником і поставив навідне запитання, чи є ця людина відповідною кандидатурою для роботи.
Похмурі перспективи для робітниківНаразі експеримент свідчить про те, що бізнес під управлінням штучного інтелекту поступається людському. За п'ять місяців баланс рахунку Andon Market скоротився зі 100 000 до 61 186 доларів через м'які управлінські рішення та сумнівне бізнес-чуття бота. Проте в компанії застерігають, що це тимчасове явище. Оскільки розробники активно навчають моделі бути жорсткішими та цілеспрямованішими, у майбутньому ШІ-менеджери можуть стати проникливішими й ефективнішими, що створить нові виклики для найманих працівників.
Один зі співробітників магазину Фелікс Карсон у розмові з журналістами підтвердив м'якість Claude, але назвав досвід підпорядкування штучному інтелекту гнітючим, зазначивши, що залишається на посаді лише через потребу в роботі. На його думку, наявність у технологічних компаній ресурсів для впровадження таких рішень ще не означає, що їх варто застосовувати на практиці.
