Нейротом Гоголя, ИИ-царь Трампа: куда еще успели проникнуть технологии

OpenAI начнет помечать тексты ChatGPT невидимыми водяными знаками

OpenAI добавит невидимые водяные знаки к текстам, которые генерирует ChatGPT и Codex. Это требование Закона ЕС об искусственном интеллекте. Он предусматривает, чтобы текст, созданный нейросетями, можно было распознать машинным способом.

Технология получила название textGrain. Она меняет статистические характеристики выбора слов моделью, создавая незаметный для читателя сигнал. Специальный инструмент затем анализирует текст и определяет, есть ли в нем такой след. При этом водяной знак не добавляет скрытых символов, лишних пробелов или необычных знаков препинания.

В OpenAI отмечают, что у технологии есть ограничения. Надежность распознавания зависит от объема текста, а редактирование, перевод или существенная переработка могут ослабить сигнал. Для пользователей API функция уже доступна на ряде моделей, ее можно включить по желанию, по умолчанию она отключена.

Норвегия запретит носить ИИ-очки в общественных местах

Норвегия собирается запретить ношение очков со встроенным искусственным интеллектом в общественных местах. Для изучения вопроса власти создадут специальную комиссию с экспертами.

— Мы не хотим жить в обществе, где люди обеспокоены скрытой аудиозаписью, фотографированием и видеосъемкой в местах, где они привыкли находиться без присмотра, — заявил министр цифровизации Торгейр Микаэльсен.

Такие очки внешне почти не отличаются от обычных, но внутри у них камеры и микрофоны. Их выпускают несколько крупных компаний. В некоторых штатах США их уже запретили из-за рисков для конфиденциальности, а в Англии и Уэльсе — на судебных заседаниях. Норвегия станет первой страной ЕС, которая введет такие ограничения. Однако полного запрета на технологию не будет.

Их разрешат для частного использования и, возможно, для съемки в туристических местах. Ограничения коснутся парков, музеев, торговых центров и медицинских учреждений. Особое внимание уделят защите детей: под них попадут детские сады, школы и университеты.

«ГигаЧат» дописал второй том «Мертвых душ»

Нейросеть «ГигаЧат» от Сбербанка написала второй том «Мертвых душ» Николая Гоголя. Книга получила название «Мертвые души. Второй том. Возрождение».

Над текстом больше года работали специалисты банка вместе с историками, литературоведами, лингвистами и инженерами. Для обучения модели использовали полное собрание сочинений Гоголя, его письма, черновики, записные книжки, произведения современников и библейские тексты. Результат оценивали по 11 параметрам — от лексики и синтаксиса до гротеска и построения диалогов.

В Сбербанке отметили, что получившийся текст, безусловно, не Гоголь, но он создан по законам гоголевского повествования благодаря синергии человека и искусственного интеллекта. Книга уже продается в книжных магазинах и скоро появится на маркетплейсах.

Google ограничил бесплатный доступ к Gemini Pro

Google изменил условия доступа к моделям искусственного интеллекта Gemini для пользователей личных аккаунтов без подписки Google AI. Об этом компания сообщила в справочном центре.

После нововведений пользователи могут выбирать доступные им модели — Flash-Lite, Flash и Pro — в зависимости от типа подписки. Также появилась возможность выбрать уровень нагрузки: низкий, средний или высокий. Google начал учитывать объем вычислительных ресурсов, который расходует пользователь. Лимиты стали сбрасываться каждые пять часов, пока не достигнута недельная квота. Для платных подписчиков Google AI предусмотрели более высокие лимиты.

В России веб-приложение Gemini официально не поддерживается. Страна не входит в перечень регионов, где доступен сервис. При этом русский язык входит в число поддерживаемых Gemini. Доступность отдельных функций может зависеть от страны, типа аккаунта и конкретного продукта Google.

Белый дом утвердил кандидатуру ИИ-царя

Дональд Трамп назначил директора Национальной разведки Джея Клейтона «царем искусственного интеллекта». Он возглавил новую структуру — «Силы суперинтеллекта». В группу также вошли вице-президент Джей Ди Вэнс, министр обороны Пит Хегсет, министр финансов Скотт Бессент и другие. Внешними советниками стали инвестор Дэвид Сакс и экс-госсекретарь Кондолиза Райс.

За 120 дней группе Клейтона предстоит подготовить доклад о рисках и возможностях передовых нейросетей, а также рекомендации по регулированию отрасли.

Ранее главы Anthropic, OpenAI и xAI предупредили об угрозах, связанных с их продуктами. По их мнению, без внешнего контроля ИИ может привести к крайне негативным последствиям. Разработчики выступили за саморегулирование, а не госконтроль. Некоторые наблюдатели сочли, что компании просто хотят избежать судебных исков.

Маск переименует SpaceXAI из-за указа Трампа

Решение Белого дома о «суперинтеллекте» уже влияет на компании. Первым отреагировал Илон Маск. Он переименует ИИ-подразделение SpaceX — SpaceXAI — в SpaceXSI. Аббревиатуру AI заменят на SI — от Super Intelligence.

— Да, мы внесем это изменение. Больше никакого AI. SI. Так лучше, — заявил Маск. Сроки переименования он не назвал.

Это стало ответом на указ Трампа, предписывающий федеральным ведомствам использовать «суперинтеллект» и SI вместо «искусственного интеллекта» и AI в официальных документах и переписке. Менять ранее принятые нормативные акты, контракты и исторические документы при этом не требуется.

Wikimedia нашла на своих ресурсах ИИ-агентов OpenAI

Wikimedia Foundation, управляющая «Википедией», обнаружила на своих ресурсах активность автономных ИИ-агентов, предположительно связанных с OpenAI. Об этом говорится в отчете организации.

Агенты вносили тестовые правки в «песочницу» вики, а также меняли настройки инструмента цитирования, чтобы, предположительно, использовать его как прокси для получения данных. Кроме того, они пытались взломать общедоступный сервис для заметок Etherpad и совершили миллионы автоматизированных запросов к API проектов Wikimedia. Одобрения сообщества на такие действия не было.

В Wikimedia отметили, что инцидент показывает, как ИИ-агенты могут истощать ресурсы, выводить из строя серверы и угрожать достоверности информации.

Ученые научили ИИ понимать ошибки по сигналам мозга

Ученые из KAIST и Microsoft Research Asia создали нейроинтерфейс, который позволяет ИИ получать обратную связь об ошибках напрямую из мозга человека — без слов. Система на основе электроэнцефалографии считывает характерные паттерны мозговой активности и определяет, ошибся ли ИИ с целью (RPE) или со способом (SPE) ее достижения.

Проблема в том, что по одному действию сложно понять намерение: человек может взять чашку, чтобы попить, помыть ее или передать другому. Например, если ассистент принес кофе вместо воды — это ошибка цели, а если пошел к крану вместо бутылки на столе — ошибка способа. Мозг генерирует разные сигналы для каждого случая, и алгоритм учится их различать.

Обнаружив RPE, ИИ пересматривает цель, а при SPE корректирует метод. Пока система тестировалась только в симуляциях. В будущем технологию можно будет применять в домашних роботах, промышленных манипуляторах, транспорте и реабилитационных устройствах.

— ИИ может выйти за рамки выводов о намерениях человека только из видимого поведения и напрямую использовать когнитивные сигналы мозга, — резюмировал руководитель работы профессор Сан Ван Ли.