Електромережі не витримують ШІ

Доктор Саша Луччіоні, дослідниця етичного ШІ з Hugging Face, компанії-виробника інструментів машинного навчання, стверджує, що ШІ-запити є загрозою для електромереж. Вони просто не витримують запитів генеративного штучного інтелекту, повідомляє BBC.Ядром багатьох моделей генеративного ШІ є Large Language Models (LLMs) — моделі, що базуються на моделі-трансформері та отримують, кодують, та декодують дані для отримання вихідного прогнозу.Кожного разу, коли ви надсилаєте запит моделі генеративного штучного інтелекту, активується майже все, тож це надто неефективно з погляду обчисленьЛуччіоні наголосила, що це — не те саме, що використовувати ПК або телефон, адже електромереж загалом працюють від гігантських центрів даних, які більшість людей не бачить. коли ви думаєте про хмар, каже вона, ви не розумієте, які обсяги даних знаходяться у цих гігантських центрах даних.Nvidia каже, що в майбутньому вони зможуть навчити ШІ, що у кілька разів більш потужний, ніж найбільші знані на сьогодні системи ШІ, за 90 днів, використовуючи 8 тис. чипів Nvidia попереднього покоління. Для цього компанії знадобилось би 15 мегаватів електроенергії.Проте той самий обсяг роботи можна зробити, використовуючи 2 тис. чипів Grace Blackwell, і їм знадобилося б потужності у чотири мегавати, зазначили у Nvidia.