Втомили суб’єктивні критерії від рекрутерів при проходженні співбесід? Або ж ви представник бізнесу і щодня змушені перевіряти та відсіювати сотні резюме? Штучний інтелект мав би нас порятувати. SPEKA спробувала розібратись чи може ШІ справедливо оцінити кандидатів, чи навпаки — створює ще більше упереджень? У той час як креативні фахівці (художники, дизайнери, сценаристи) переважно не в захваті від повсюдного впровадження штучного інтелекту, бізнесові кола та керівники компаній радіють можливості пришвидшити процес відбору кандидатів та покращити управління персоналом. Згідно з опитуванням 2022 року, майже 80% роботодавців у США використовують штучний інтелект під час хайрингу. При цьому що більша компанія, то більше ймовірне використання нейромереж: компанії зі списку Fortune 500 майже всі використовують автоматизовані рішення в HR.Не відстають і в Україні. Наприклад, портал robota.ua впровадила функції на основі штучного інтелекту, яка допоможе роботодавцям згенерувати запитання для співбесіди або опис вакансії. Штучний інтелект у підборі персоналу усуває людські упередження та підвищує справедливість у прийнятті рішень.
Хоча одна з причин використання штучного інтелекту під час найму полягає в тому, що він має на меті бути більш об’єктивним і послідовним, численні дослідження показали, що ця технологія насправді є дуже ймовірно упередженою. Вже класичним прикладом став кейс компанії Amazon. IT-команда компанії створювала комп’ютерні програми з 2014 року для перегляду резюме претендентів на роботу з метою механізації пошуку найкращих талантів.Експериментальний інструмент компанії для найму на роботу використовував штучний інтелект, щоб надавати кандидатам оцінки від однієї до п’яти зірок – подібно до того, як покупці оцінюють продукти на Amazon.Ще у 2015 році компанія зрозуміла, що її нова система не оцінює кандидатів на посади розробників програмного забезпечення та інші технічні посади гендерно-нейтральним способом.Комп’ютерні моделі Amazon були навчені перевіряти кандидатів, спостерігаючи за закономірностями в резюме, які надсилалися компанії протягом 10 років. Більшість прийшла від чоловіків, що є відображенням домінування чоловіків у технологічній індустрії. По суті,
система Amazon навчилася, що кандидати-чоловіки є кращими. Навіть якщо в резюме не було вказано статті алгоритм применшував значення тих анкет, які містили слово «жіночий», наприклад, «капітан жіночого шахового клубу». За словами людей, обізнаних із ситуацією, це призвело до зниження рівня випускниць двох жіночих коледжів. Лише наприкінці 2017 року проєкт згорнули. Це відбувається тому, що ШІ навчається з наборів даних, які використовуються для його навчання. Якщо дані помилкові, то алгоритм також буде. Або ж як кажуть інженери з даних: garbage data in, garbage data out. Група викладачів менеджменту та data science університету Массі у Новій Зеландії спробували дослідити як виправити помилки алгоритмів. У своєму дослідженні вони дійшли кількох цікавих висновків. Наприклад, залучення фахівців з кадрів без підготовки може швидше погіршити, ніж пом’якшити упередження штучного інтелекту. Це ставить під сумнів переконання, що людський нагляд може стримувати та модерувати ШІ.Під час інтерв’ю з 22 фахівцями з управління персоналом, вчені виявили два поширених упередження при наймі:
«стереотипне упередження» та «схоже на мене».Стереотипне упередження виникає, коли на рішення впливають стереотипи щодо певних груп, наприклад, перевага кандидатам однієї статі, що призводить до гендерної нерівності.Упередженість типу «схожий на мене» виникає, коли рекрутери віддають перевагу кандидатам, які мають схожі з ними досвід чи інтереси. Отже, якщо минула практика найму сприяла певним демографічним групам, штучний інтелект продовжить це робити. Пом’якшити ці упередження досить складно, оскільки алгоритми можуть зчитувати особисту інформацію на основі прихованих даних з іншої корельованої інформації. Наприклад, у країнах з різною тривалістю військової служби для чоловіків і жінок ШІ може визначити стать на основі служби в армії.Водночас людський фактор теж може бути корисним. У тому ж дослідженні опитали також 17 розробників моделей ШІ. Висновки показують, що складність впровадження продукту, який не поширює упередження, полягає в освітніх, професійних і демографічних відмінностях, які існують між фахівцями з управління персоналом і розробниками.
Ці відмінності заважають ефективному спілкуванню, співпраці і навіть здатності розуміти один одного. Тому розробники традиційно закидають відсутність чітких та зрозумілих вимог. У той час як HR традиційно навчаються управлінню людьми та організаційній поведінці, розробники штучного інтелекту мають навички в науці про дані та технологіях. Простіше кажучи, більшість проблем виникають на етапі формулювання завдання та у наборах даних. Щоб подолати цю проблему потрібні програми навчання для HR, зосереджені на розробці інформаційних систем та штучному інтелекті, крос-функціональні команди, та розробка культурно відповідних і різноманітних наборів даних для навчання моделей. Фахівці з персоналу та розробники штучного інтелекту повинні працювати разом, щоб переконатися, що дані, які використовуються, є різноманітними та репрезентативними для різних демографічних та соціальних груп.
