Рецепти наркотиків і план замаху на Маска. xAI випадково опублікувала чати користувачів Grok

У відкритому доступі виявилися сотні тисяч чатів чатбота Grok із користувачами. Про це повідомляє Forbes.

• Розмови, якими люди ділилися через кнопку share, автоматично отримували унікальні URL-адреси, індексувалися Google та іншими пошуковиками та ставали доступними будь-кому в мережі — без попередження чи згоди авторів.
• Google проіндексував понад 370 000 таких чатів. Серед них — як безпечні завдання на кшталт створення твіту чи резюме, так і небезпечні інструкції щодо виробництва наркотиків, зброї чи навіть план замаху на самого Ілона Маска.
• У відкритому доступі опинилися й чутливі дані: паролі, особисті деталі, завантажені користувачами документи.

xAI поки не надала офіційних коментарів. Проте випадок викликав хвилю обурення в індустрії, адже нещодавно схожу помилку допустила й OpenAI із ChatGPT, після чого компанія терміново змінила політику.

Цікаво, що вже з’явилися користувачі, які помічають і експлуатують опубліковані чати Grok. На LinkedIn і форумі BlackHatWorld маркетологи обговорюють, як навмисно створювати й поширювати розмови з Grok для підвищення видимості та впізнаваності своїх компаній і продуктів у пошукових результатах Google, хоча ефективність таких дій залишається невизначеною.

Читайте також: $30 млн виплатить Google у США через збір даних дітей на YouTube