Нейросетью Grok была опубликована серия ультраправых заявлений. Ранее Маск уже пытался навязать свои политические взгляды Grok.
Подробности. 4 июля Маск заявил, что компания xAI «значительно улучшила Grok» добавив, что пользователи должны были заметить изменения в его ответах. До этого Макс в своем посте уже просил предоставить обучающие данные для нейросети, являющиеся «политически некорректными», но «объективно верными».
► Вскоре ИИ начал отвечать на публикации, распространяя антисемитские теории заговора, восхваляя Гитлера как защитника «белой идентичности» и повторяя другие ультраправые тезисы о феминизме и Движении за гражданские права.
► В мае Grok продвигал взгляды Маска, распространяя теорию заговора о «белом геноциде» в Южной Африке, вставляя её даже в тематически несвязанные запросы. В некоторых случаях ИИ противоречил сам себе в одном и том же ответе.
► После общественного резонанса в обоих случаях публикации были удалены. В случае с ответами о «белом геноциде» компания xAI в случившемся обвинила «несанкционированное изменение». Что касается последнего контента, Маск заявил, что чат-бот «чересчур подстраивался под запросы пользователей».
Контекст. Способность ИИ генерировать индивидуализированные и массовые сообщения делает его ценным инструментом для капиталистического класса, стремящегося формировать общественное мнение — особенно на фоне того, что всё больше людей полагаются на ИИ при поиске информации, чтении новостей и принятии решений.
► Ранние модели ИИ подвергались критике со стороны политиков по всему политическому спектру США за «либеральные левые взгляды». В ответ такие компании, как OpenAI, Meta и Google, начали корректировать работу ИИ, чтобы он выглядел «нейтральным» и избегал политизированного контента.
► ИИ уже обвиняли во влиянии на политические процессы в США. Во время избирательного цикла 2020 года возникли опасения по поводу алгоритмической предвзятости, целенаправленной дезинформации и контента, сгенерированного ИИ, который усиливал партийные нарративы.
Важно знать. Попытки Маска демонстрируют один из способов, которым капиталисты намерены использовать ИИ. Скорее всего, они будут применять похожие инструменты, но с более завуалированными сообщениями и жёстким контролем, чтобы избежать репутационных провалов, подобных тем, что произошли у Маска.
► Через несколько дней после сканадала вокруг ультраправых ответов Grok, компания xAI заключила контракт с Пентагоном на 200 миллионов долларов, что ещё больше укрепило интеграцию ИИ в государственные структуры США.
► Это часть гораздо большей тенденции — в США руководители крупнейших ИИ-компаний входят в консультативные советы Пентагона и армии. В Великобритании в состав рабочей группы AI Frontier Taskforce входят как представители государства, так и частного сектора. Национальная служба здравоохранения (NHS) всё активнее полагается на частные ИИ-системы для диагностики и управления данными.
► Эта тенденция отражает растущее слияние государственной власти и технологических монополий. Хотя ИИ сам по себе является лишь инструментом в руках капиталистического класса, он превращается в средство идеологического контроля, укрепляющее господствующие нарративы и защищающее существующую классовую систему.