Імміграційна та митна служба США (ICE) відправила на роботу невизначену кількість співробітників із недостатньою підготовкою через помилки в роботі штучного інтелекту, який використовували для найму.
Про це повідомляє NBC News.
За даними видання, ICE застосувала ШІ-інструмент для сортування резюме кандидатів, щоб пришвидшити масовий набір. Агентство мало завдання найняти 10 тисяч нових співробітників до кінця 2025 року — на це передбачили 75 млрд доларів протягом чотирьох років.
Кандидатів автоматично ділили на дві групи. Ті, кого система вважала колишніми правоохоронцями, потрапляли до програми LEO і проходили лише чотири тижні онлайн-навчання. Інших, без досвіду в правоохоронних органах, направляли на восьмитижневий очний курс у Федеральному центрі підготовки правоохоронців у Джорджії. Там навчали, зокрема, імміграційного законодавства та безпечного поводження зі зброєю. Раніше підготовка тривала 20 тижнів, але її скоротили, щоб, за даними The Washington Post, «прибрати дублювання та врахувати технологічні оновлення».
NBC News з’ясувало, що ШІ-система помилково відносила кандидатів без досвіду до правоохоронців і направляла їх на коротку програму.
Алгоритм позначав як «офіцерів» усіх, у чиїх резюме було слово officer. Це стосувалося, наприклад, офіцерів довідкових центрів або навіть кандидатів, які просто писали про бажання стати офіцерами ICE.
Двоє неназваних представників правоохоронних органів повідомили NBC, що не знають точної кількості співробітників, які пройшли неправильну підготовку і були направлені на затримання мігрантів. Водночас, за їхніми словами, більшість нових кандидатів спочатку були помилково віднесені до категорії правоохоронців, перш ніж проблему виявили наприкінці минулого року.
Дії ICE перебувають під посиленою критикою через жорсткі методи міграційного контролю, які застосовують як до людей без документів, так і до тих, хто має легальний статус, а також до громадян США.
Резонанс посилився після смертельної стрілянини в Міннеаполісі, де загинула Рене Ніколь Гуд. За інформацією NBC, агент, який відкрив вогонь, працював в ICE близько 10 років, тому не проходив відбір через згаданий ШІ-інструмент.
Паралельно з активним набором персоналу ICE розширює використання технологій. Агентство має контракт з ізраїльською компанією Paragon,
чий софт раніше використовували для стеження за журналістами та правозахисниками за кордоном. ICE також застосовує ШІ-системи для масового моніторингу соцмереж, а співробітники користуються додатками для сканування райдужної оболонки ока та спроб визначення імміграційного статусу за допомогою розпізнавання облич.
Міністерство внутрішньої безпеки США також розробило власний чатбот DHSChat після експериментів із комерційними ШІ-сервісами на кшталт ChatGPT і Claude. У листопаді стало відомо, що щонайменше один агент ICE використав ChatGPT для підготовки звіту про застосування сили, який містив численні неточності: звіт був складений на основі обмежених даних, а решту інформації система фактично «дописала» сама.
Читайте також:
- Зайнятість знизилась на 13%. Штучний інтелект скорочує стартові робочі місця для молоді
- Штучний касир. Як працює функція миттєвих покупок у ChatGPT
- Чому США відстають від Китаю в гонці за штучний інтелект і що з цим можна зробити
