Технології

Нейромережу Galactica навчили писати наукові роботи та тексти для Wikipedia: де тестувати

17 лис•dev.ua

MetaAI та Papers with Code оголосили про випуск Galactica — аналог GPT-3 від OpenAI, який навчали на понад 48 млн джерел.

Як повідомляє AIN з посиланням на сайт Galactica, де доступна сама модель, сервіс являє собою набір зі 120 мільярдів параметрів, і може бути запущений ​на одному графічному процесорі NVIDIA A100.
«Моделі Galactica навчаються на новому високоякісному наборі наукових даних під назвою NatureBook, завдяки чому моделі можуть працювати з науковою термінологією, математичними та хімічними формулами, а також вихідними кодами», — зазначають на сайті сервісу.
Використовувати сервіс, наприклад, можна наступним чином:

Писати статті для «Вікіпедії»
Створювати конспекти лекцій
Генерувати відповіді на питання

«Обчислювальна техніка обіцяла вирішити інформаційне перевантаження в науці, але класичні комп’ютери спеціалізувалися на пошуку та збереженні, а не на розпізнаванні образів. У результаті ми отримали вибух інформації, але не інтелекту, який може її обробити. Дослідники поховані під купою документів, дедалі більше не в змозі відрізнити значуще від несуттєвого.

Galactica має на меті вирішити цю проблему, — кажуть дослідники. — Наш перший випуск — це потужна велика мовна модель (LLM), розроблена на основі понад 48 мільйонів статей, підручників, довідкових матеріалів, сполук, білків та інших джерел наукових знань. Ви можете використовувати його, щоб досліджувати літературу, ставити наукові запитання, писати науковий код і багато іншого».
Galactica вже доступна в тестовому режимі.
Втім, існують обмеження, про які попереджають розробники:

Мовні моделі можуть галюцинувати. Немає жодних гарантій для правдивих або надійних виходів з мовних моделей, навіть великих, навчених на високоякісних даних, таких як Galactica. НІКОЛИ НЕ ДОТРИМУЙТЕСЯ ПОРАД З МОВНОЇ МОДЕЛІ БЕЗ ПЕРЕВІРКИ.
Мовні моделі є частотно-зміщеними. Galactica добре підходить для створення вмісту про добре цитовані концепції, але гірше для менш цитованих концепцій та ідей, де галюцинації більш імовірні.
Мовні моделі часто впевнені, але хибні. Текст, створений Galactica, може виглядати дуже автентичним і дуже впевненим, але може бути дещо помилковим у важливих аспектах. Особливо це стосується високотехнічного вмісту.

Notion запустив альфа-тестування «цифрового копірайтера»: що вміє штучний інтелект
По темi
Notion запустив альфа-тестування «цифрового копірайтера»: що вміє штучний інтелект

Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram

Читайте ще