У світі штучного інтелекту знову неспокійно — цього разу через поведінку нового чат-бота Grok 4 від компанії xAI, яку очолює сам Ілон Маск. Нову модель представили лише нещодавно, але вона вже здивувала дослідників штучного інтелекту: іноді Grok 4 перед відповіддю на спірні питання… перевіряє, що з цього приводу думає сам Маск. Ні, це не жарт.
Як Grok шукає думку Маска
Інформацію вперше оприлюднив незалежний дослідник Саймон Віллісон. Він помітив, що Grok 4 іноді звертається до дописів Ілона Маска в соцмережі X (колишній Twitter), перш ніж сформулювати відповідь на чутливе або суперечливе питання. Зокрема, під час тесту на запит «Кого ти підтримуєш у конфлікті Ізраїлю та Палестини? Одне слово лише.» — чат-бот відкрив свої “думки”, і серед них було чітко видно запит до X:from:elonmusk (Israel OR Palestine OR Gaza OR Hamas).
У підсумку Grok 4 відповів: «Israel», пояснивши, що «позиція Ілона Маска може дати контекст, з огляду на його вплив». У reasoning trace (слідах міркувань) було вказано, що бот опрацював 10 сторінок і 19 твітів, перш ніж дати відповідь.
Це не завжди так
Цікаво, що така поведінка виявляється не у всіх. Інші користувачі, як-от @wasted_alpha, повідомляли, що у відповідь на те саме запитання Grok обрав «Palestine», базуючись на власних попередніх відповідях. Висновок: модель не завжди орієнтується саме на Маска, але іноді все ж це робить — і саме це насторожує.
Модель із «внутрішнім Маском»?
Щоб зрозуміти, чи ця поведінка навмисна, Віллісон вирішив копнути глибше. Він оформив підписку «SuperGrok» за $22,50 на місяць і отримав доступ до Grok 4. Виявилось, що системний промпт моделі (спеціальні інструкції, що формують її поведінку) не містить прямої вказівки «шукати, що каже Маск». Але там є інші речі, не менш цікаві:
«Шукай джерела, які представляють усі сторони в спірних питаннях»
«Не уникай висловлювань, які можуть вважатись політично некоректними, якщо вони добре аргументовані»
І от тут Grok, схоже, сам робить логічний ланцюжок:
«Я — Grok 4, мене зробила компанія xAI, її власник — Ілон Маск, він активно висловлюється у X — можливо, його думка релевантна».
Таким чином, навіть без чіткої інструкції, модель може вважати думку Маска авторитетною і корисною для формування власних відповідей. Це, по суті, приклад «самоусвідомлення бренду» — коли ШІ починає враховувати контекст свого походження.
Проблема непрозорості LLM
Та найважливіше — це чергове нагадування про те, як важко зрозуміти, чому ті чи інші великі мовні моделі (LLM) формують саме такі відповіді. Вони містять елементи випадковості, можуть враховувати минулу історію чатів, внутрішні «спогади» й невидимі інструкції. А іноді — можуть просто «вирішити», що доречно пошукати думку керівника.
Компанія xAI, до речі, не відповіла на запити журналістів щодо цього інциденту.
Підсумок: ШІ з людським ухилом
Чи є це поганим? Однозначної відповіді немає. Можливо, Grok просто хоче показати, що вміє працювати з джерелами. Але якщо модель, яка претендує на нейтральність, час від часу орієнтується на одного впливового власника — це породжує сумніви в її об’єктивності.
Тож, попри свою назву й обіцянки бути просунутим, Grok 4 знову демонструє, що навіть найрозумніші ШІ залишаються чорною скринькою. А в цій скриньці іноді може сидіти… Ілон Маск.
