Компанія OpenAI змінила правила використання ChatGPT, дозволивши використовувати свої технології у військових цілях.
Про це повідомляє видання Intercept.
До 10 січня 2024 року сторінка «Політики використання» OpenAI містила пункт про заборону на використання для «діяльності, яка має високий ризик фізичної шкоди». Це положення запобігало, зокрема, експлуатуванню технологій штучного інтелекту для «розробки зброї» та «у військовій справі».
Оновлена політика зберігає заборону на використання послуг Open AI, «щоб завдати шкоди собі чи іншим» — цей пункт досі не дозволяє застосування ШІ для «розробки зброї», втім, загальна заборона на використання «у військовій справі» зникла.
За словами компанії, політику переписали для того, щоб зробити документ «чіткішим» і «читабельнішим», нова редакція містить багато інших істотних змін у формулюванні.
«Принцип «не нашкодь іншим», є широким, але легкозрозумілим у багатьох контекстах. Крім того, ми конкретно навели розробку зброї та поранення інших як яскраві приклади», — сказала OpenAI виданню.
Представник компанії Ніко Фелікс відмовився сказати,
чи охоплює така розпливчаста заборона на «нанесення шкоди іншим» будь-яке використання Chat GPT у військових цілях, сказавши, що: «Компанія забороняє, зокрема й військовим, будь-яке використання технологій для розробки або використання зброї, завдання поранень іншим, знищення чиєїсь власності або вчинення несанкціонованих дій, що порушують безпеку будь-якої служби чи системи».
Читайте також:
- Батька ChatGPT Сема Альтмана звільнили з посади гендиректора компанії OpenAI і швидко повернули назад. Що це було? Можливо, боротьба етики проти прибутків і тріумф капіталізму
Технології OpenAI досі не можна використовувати для прямого вбивства, у військових чи інших цілях. ChatGPT не може маневрувати безпілотниками чи запускати ракету.
Проте існує значна кількість суміжних завдань, де можна використовувати ChatGPT та інші мовні моделі можна застосувати: наприклад, написання коду чи обробка замовлень у держзакупівлях.
Американські військові вже використовують ШІ-технології у документообігу, а Національне агентство геопросторової розвідки навіть не приховує використання ChatGPT для допомоги своїм аналітикам.
Експерти вважають, що OpenAI потрохи змінює свою позицію проти ведення бізнесу з військовими.
До того ж, Microsoft, яка є великим оборонним підрядником, вже інвестувала в OpenAI $13 мільярдів та активно використовує програмні інструменти компанії.
Військові по всьому світі прагнуть використовувати методи машинного навчання, щоб отримати перевагу.
Пентагон досі розмірковує, чим йому можуть бути корисні ChatGPT та інші великі мовні моделі.
ШІ навчаються на неосяжному масиві книг, статей та інших веб-даних. І хоча відповіді таких мовних моделей, як ChatGPT, часто надзвичайно переконливі, їхні формулювання пристосовані для загального розуміння, але не для твердого усвідомлення реальності. Тож результати, які надає штучний інтелект, часто страждають від так званих галюцинацій, коли точність викликає багато запитань.
Читайте також:
- ChatGPT звинувачує людей у сексуальних домаганнях і хабарництві, посилаючись на статті, яких не існувало. Це намагаються використати в судах. І юристи не знають, що з цим робити
Утім, здатність мовних моделей швидко оброблювати дані, або принаймні симулювати аналіз,
робить їх надзвичайно привабливими для оборонних відомств, які навантажені даними.
У Пентагоні вже пролунало занепокоєння тенденцією мовних моделей давати у відповідях явні фактичні помилки й інші викривлення, а також ризиками для безпеки, які можуть виникнути з використанням ChatGPT для аналізу секретних даних.
Водночас, Пентагон як і раніше прагне використовувати інструменти штучного інтелекту. Про це в листопаді минулого року заявила заступник міністра оборони Кетлін Гікс.
«Штучний інтелект є ключовою частиною комплексного підходу до інновацій, орієнтованого на бійця, який ми з міністром оборони Ллойдом Остіном розвиваємо з самого початку», — заявила Гікс.
Утім, вона попередила, що більшість сучасних пропозицій «ще технічно недостатньо зрілі, щоб відповідати нашим вимогам та етичним принципам».
Читайте також:
- Ілон Маск створив конкурента ChatGPT — у нього «крінжовий бумерський гумор», нездорова любов до теорій змов і взагалі багато спільного з творцем. Знайомтеся — Grok
