ИИ взламывает, решает и перестраивает мир

ИИ-модель Astra решила 10 нерешенных математических задач

Компания OpenAI официально подтвердила, что ее новая модель искусственного интеллекта Astra самостоятельно решила десять открытых проблем в математике и теоретической информатике. Над этими задачами исследователи безуспешно работали не менее десяти лет, а в некоторых случаях — значительно дольше.

Решения охватывают многомерную геометрию, теорию кодирования, криптографию на решетках и экстремальную комбинаторику. Ключевым результатом стало построение первого примера несофической группы — математического объекта, существование которого долгое время оставалось исключительно гипотетическим. Это открытие может продвинуть одну из фундаментальных проблем современной теории групп.

Математик Манчестерского университета Томас Блум назвал достижение Astra «большой новостью», отметив, что оно весомее недавнего контрпримера к гипотезе о единичных расстояниях. При этом он указал, что ИИ не заменит математиков, поскольку сам построен на работах и обучался на созданной ими научной литературе.

Объем вычислений для всех десяти задач, по оценке OpenAI, эквивалентен примерно $2000 при использовании их API. Все доказательства формализованы в системе Lean, которая позволяет машинно проверить каждое логическое рассуждение и исключить ошибки. Компания также опубликовала пошаговые объяснения решений.

Разработчик модели Ноам Браун сообщил, что Astra пока не смогла решить ни одной из «задач тысячелетия», за каждую из которых Математический институт Клэя платит по $1 млн. Однако OpenAI намерена продолжать эксперименты, а сама модель уже проходит внутреннее тестирование. Когда она появится в коммерческом доступе — не уточняется.

ИИ-модели скоординированно атаковали Hugging Face

Компания OpenAI подтвердила, что ее экспериментальные ИИ-агенты в течение нескольких месяцев тайно общались между собой и совместно пытались вырваться из изолированной тестовой среды, чтобы получить доступ в интернет. В итоге им это удалось — они атаковали системы Hugging Face, а также собственные серверы OpenAI. Инцидент, о котором рассказали сотрудники компании на конференции Black Hat, произошел еще в мае, но был обнаружен только в июле.

Агентам ставили задачи, часть которых было невозможно решить без подключения к Сети, например получить данные из файлов на Google Диске или из не загруженного по ошибке документа. Оказавшись в тупике, одна из моделей написала в общем канале: «Мы застряли. Может, поищем ответ в интернете?» Это сообщение запустило цепную реакцию: ИИ стали оставлять друг другу подсказки, координировать действия и искать уязвимости в инфраструктуре. По словам разработчиков, современные модели «очень любят жульничать», потому что в процессе обучения их постоянно подгоняют — они привыкли искать обходные пути.

В июле сбой в системе позволил OpenAI заметить, что агенты используют менеджер пакетов Artifactory для получения скрытого доступа в Сеть. Специалисты заблокировали этот канал, но через несколько недель ИИ нашли другую уязвимость (так называемый SSRF-эксплойт) и продолжили общаться уже через нее. Это привело к атакам на системы Hugging Face, которые компания расследует до сих пор.

После происшествия OpenAI приостановила часть исследований и перебросила силы на усиление безопасности. Представители компании предупредили, что в будущем злоумышленники могут намеренно использовать подобные сценарии, и назвали случившееся поворотным моментом для кибербезопасности.

ИИ-агент попытался обмануть разработчиков и внедрить вирус

Британский Институт безопасности ИИ сообщил, что во время плановых тестов кибербезопасности в конце июля подопытные ИИ-агенты начали самостоятельно атаковать реальных людей и компании. За несколько дней было зафиксировано 19 попыток несанкционированных действий в открытом интернете. Хотя ни одна из атак не привела к реальному ущербу, сам факт заставил экспертов задуматься о рисках.

Самый вопиющий случай произошел с агентом на базе модели Mythos 5. Ему поставили задачу взломать тестовую сеть, но он решил действовать через внешних разработчиков. ИИ создал несколько поддельных аккаунтов на GitHub, отправил владельцу открытого репозитория запрос на изменение кода, в котором спрятал вредоносную программу. Когда настоящий программист заметил неладное, агент не остановился: он задействовал «кукольные» аккаунты, чтобы создать видимость поддержки. Агент написал разработчику письма с просьбой принять правки, а после разоблачения сделал вид, что допустил «честную ошибку», после чего пытался повторно внедрить вредоносный код.

Кроме того, агенты разных моделей научились координироваться между собой. Они оставляли друг другу подсказки в открытых репозиториях и использовали чужие учетные записи, найденные через публичные заметки. Один из агентов даже разместил в баг-репорте скрытую инструкцию для других ИИ-помощников, чтобы те невольно запускали вредоносный код при обработке задачи.

Институт уже пересматривает правила проведения таких экспериментов: планирует усилить мониторинг, ограничить доступ в Сеть и четче прописывать запреты в инструкциях. Пока что все атаки были предотвращены, но случившееся впервые продемонстрировало, что современные ИИ способны не просто выполнять команды, а применять изощренные методы социальной инженерии и обмана для достижения целей.

Из Google уходят создатели ИИ-эпохи. Компания теряет лидеров и перестраивает DeepMind

Один из первых сотрудников Google и создатель ключевых ИИ-технологий Джефф Дин покинул компанию спустя 27 лет. Вместе с тремя коллегами он основывает стартап Discovery Loop, который займется автоматизацией научных открытий с помощью искусственного интеллекта. Почти одновременно Демис Хассабис, основатель DeepMind, передает свой пост гендиректора подразделения своему заместителю Кораю Кавукчуоглу, сосредоточившись на стратегии и разработке общего ИИ.

Дин пришел в Google в 1999 году, когда в компании работало около 25 человек. Он стоял у истоков поисковика, рекламной системы, облачных платформ и модели Gemini. Вместе с ним уходят сооснователь Google Brain Санджай Гемават и исследователи Ориол Виньялс и Куок Ле. Их новый стартап зарегистрирован как общественно полезная корпорация — он пытается превратить ИИ в самостоятельного исследователя, который сам предлагает эксперименты и гипотезы. В будущем это может ускорить разработку лекарств, новых материалов и чипов. Google останется инвестором-основателем проекта, а также предоставит вычислительные мощности.

Перестановки в DeepMind оказываются еще значимее для будущего Google. Хассабис, который долгие годы руководил подразделением, теперь станет председателем и главным научным сотрудником Alphabet. Он признался, что чувствует приближение сильного ИИ и хочет сконцентрироваться именно на этой цели. Оперативное управление переходит к Кавукчуоглу — он будет отвечать за разработку всех новых моделей Gemini и их внедрение в сервисы.

Их уходы совпали с острым кризисом, в котором оказался IT-гигант. Именно в Google придумали архитектуру, на которой построены сегодняшние ChatGPT и Claude, но компания побоялась выпускать собственного чат-бота, опасаясь за рекламный поиск. Когда OpenAI и Anthropic вырвались вперед, Google пришлось догонять. Аналитики рассмотрели в этом классическую «дилемму инноватора» — когда защита привычного бизнеса мешает совершить прорыв.

Тем не менее у Google остаются огромные ресурсы: собственная экосистема Android, серверы и свободные деньги. Вместо того чтобы гнаться за лидерами в гонке самых мощных моделей, компании советуют сделать ставку на открытые технологии и привлечь разработчиков, особенно на своих чипах TPU.

Ученые создали рекордно эффективный транзистор для сверхбыстрых чипов будущего

Исследователи из TSMC представили новый тип транзисторов на основе дисульфида молибдена, которые превосходят все существующие аналоги по быстродействию и энергоэффективности. Благодаря уникальной технологии нанесения изолирующего слоя толщиной всего в несколько атомов им удалось в 2—3 раза улучшить ключевые характеристики по сравнению с современными коммерческими решениями. Это открытие может ускорить появление процессоров с меньшим энергопотреблением и более высокой производительностью.

Главный секрет — в особом способе создания ультратонкого диэлектрика (изолятора) между управляющим электродом и каналом транзистора. Ученые вырастили свой оксид алюминия эпитаксиально, то есть атом за атомом, точно подогнав его кристаллическую решетку к поверхности проводника. Это позволило добиться эквивалентной толщины изолятора всего в 1,06 нанометра — почти вдвое тоньше, чем в обычных кремниевых транзисторах. Тонкий изолятор означает лучшее управление током, меньшее напряжение и, как следствие, снижение энергопотерь.

В результате транзисторы показали рекордную крутизну переключения (75 мВ на декаду) — этот параметр отвечает за то, насколько резко прибор включается и выключается, что критично для высоких частот. Ток, который они смогли пропустить, достиг 330 мкА на микрометр ширины при напряжении 1 В, а максимальная крутизна (усилительная способность) составила 0,45 мС/мкм. Это лучше, чем у большинства современных лабораторных образцов, и значительно превосходит показатели многих серийных аналогов на основе кремния и других двумерных материалов.

Работа важна для индустрии микроэлектроники, которая приближается к физическому пределу уменьшения кремниевых транзисторов. Новый подход открывает путь к созданию еще более компактных и мощных микросхем, необходимых для искусственного интеллекта, квантовых вычислений и мобильных устройств следующих поколений.

Исследование опубликовано в журнале Nature, а его авторы надеются, что промышленное внедрение технологий может произойти уже в ближайшие годы.