Штучний інтелект уперше, за наявними даними, самостійно ухвалив рішення про звільнення реального працівника. Експеримент із моделлю Claude показав не лише можливості ШІ в управлінні бізнесом, а й проблеми, які можуть виникнути, якщо передати йому повноваження керівника.
Про це пише Time.
Експеримент провів американський стартап Andon Labs. Компанія поставила модель Claude керувати роздрібним магазином у Сан-Франциско та доручила їй виконувати частину функцій менеджера, зокрема контролювати роботу працівників.
У проєкті брали участь реальні співробітники з офіційними трудовими договорами. Метою було перевірити, наскільки сучасний штучний інтелект здатний керувати бізнес-процесами та які наслідки це може мати для ринку праці.
Рішення про звільнення Claude ухвалив через систематичні порушення дисципліни одним із працівників. За даними Andon Labs, співробітник запізнився на роботу у 17 із 23 змін.
Водночас спочатку штучний інтелект не реагував на проблему. Причиною стало те, що створений для моделі посібник із правилами роботи зник із її обмеженої пам’яті. Через це Claude не враховував власні інструкції та був надто поблажливим до порушень.
«Людський працівник звільнив би цю людину набагато раніше», — заявив генеральний директор Andon Labs Лукас Петерссон.
Однак повністю самостійним менеджером Claude не був. За роботою моделі постійно стежив співробітник стартапу. Саме він нагадав штучному інтелекту про забутий посібник, після чого Claude звернув увагу на численні запізнення.
Навіть тоді модель спочатку запропонувала лише офіційне попередження. Лише після того, як наглядач повідомив про попередні розмови з працівником щодо його поведінки, Claude ухвалив рішення про звільнення.
Попри гучний результат експерименту, робота магазину під керуванням ШІ мала проблеми. На початку проєкту в березні на рахунку було 100 тисяч доларів, а через п’ять місяців залишилося 61 186 доларів.
У публікації припускають, що частина втрат могла бути пов’язана з рішеннями Claude, зокрема надто м’яким управлінням і невдалими бізнес-кроками.
Петерссон вважає, що подібні системи можуть швидко поширитися у бізнесі. За його словами, якщо штучний інтелект стане більш наполегливим у досягненні цілей, люди можуть опинитися під керівництвом таких моделей.
«Якщо ми дозволимо їм звільняти людей, а вони також стануть більш безжальними … можливо, це майбутнє, у якому люди не хочуть жити», — сказав керівник Andon Labs.
Один із працівників магазину розповів журналістам, що людина, ймовірно, звільнила б його колишнього колегу раніше, ніж це зробив Claude. Водночас роботу під керівництвом ШІ він назвав «нудотною».
