Генеральний директор OpenAI Сем Альтман заявив, що одним із найбільш небезпечних сценаріїв розвитку штучного інтелекту може стати концентрація технологічної влади в руках невеликої кількості компаній або держав та створення системи тотального спостереження за людьми.
За його словами, технологічно розвинене суспільство може бути надзвичайно комфортним і забезпеченим, але водночас позбавленим приватності, реальної автономії та свободи вибору. Альтман наголосив, що такий результат не можна вважати прийнятною ціною навіть за величезні економічні та наукові переваги ШІ.
Окремою загрозою він називає концентрацію найбільш потужних моделей штучного інтелекту під контролем кількох структур. На думку Альтмана, суспільству фактично доведеться обирати між майбутнім, у якому ШІ розширює можливості окремої людини, та моделлю, де технології стають інструментом авторитарного контролю.
Проблема приватності стає особливо гострою через те, наскільки особистою інформацією користувачі діляться з системами штучного інтелекту. Альтман раніше зазначав, що розмови з ШІ можуть містити настільки чутливі дані, що в майбутньому їм може знадобитися захист, співставний із конфіденційністю спілкування з лікарем або адвокатом.
OpenAI також називає масове внутрішнє стеження однією зі своїх принципових «червоних ліній» для використання технологій компанії державними структурами. У своїй угоді з американським оборонним відомством компанія окремо закріпила заборону застосовувати її моделі для масового стеження за громадянами США.
Таким чином головною загрозою нової технологічної епохи Альтман вважає не сам штучний інтелект, а те, хто контролюватиме його можливості та скільки особистої свободи суспільство погодиться віддати в обмін на зручність, безпеку й автоматизацію
Джерело: заяви Сема Альтмана, OpenAI, Business Insider
