Айзат Фархутдинов: «Самый сложный вопрос — где проходит граница между пользой и угрозой»
Технический директор «Технократии» — о том, нужен ли контроль над ИИ и почему он уже стал нашей привычкой
Основатель Microsoft Билл Гейтс предупредил, что сочетание людей со злыми намерениями и новейших ИИ-инструментов способно привести к гибели миллиарда людей. Он сравнил регулирование искусственного интеллекта с переговорами по ядерному оружию и призвал к законодательным ограничениям. Стоит ли нам бояться ИИ или все зависит от того, в чьих руках находится инструмент? В авторской колонкедля «Реального времени» технический директор компании «Технократия» Айзат Фархутдинов размышляет о том, где проходит граница между пользой и угрозой, нужен ли контроль над развитием технологии и почему мы уже не можем без нее обходиться.
Не благо и не угроза: все решает применение
Искусственный интеллект на текущем этапе — это прежде всего инструмент, а не самостоятельно мыслящий организм. Именно отсюда, на мой взгляд, и возникает опасение, которое высказывает Билл Гейтс: важно не только то, на что способен ИИ, но и то, в чьих руках находится этот инструмент.
Интересно, что ИИ часто сравнивают именно с ядерным оружием, забывая при этом о существовании мирной и полезной атомной энергетики. Похожую логику можно применить и к искусственному интеллекту: сама технология не является ни благом, ни угрозой — все зависит от того, как и для чего ее используют.
Многие считают, что ИИ в перспективе полностью заменит человека и оставит людей без работы. Мне кажется, это не совсем так. Скорее изменится сам характер труда. В свое время похожая трансформация произошла при переходе от бумажных расчетов и форм к электронным таблицам вроде Excel. Технология не устранила необходимость в человеческом труде, но заметно изменила способы его организации.
При этом важно помнить, что искусственный интеллект не обладает собственной волей. Он действует на основе данных, алгоритмов и знаний, которые в конечном счете были созданы, собраны или структурированы людьми.
Отдельного внимания заслуживает тема развития ИИ. Сейчас темпы действительно колоссальны, и вполне вероятно, что уже в обозримом будущем значительная часть научных открытий станет настолько сложной, что большинство людей не сможет самостоятельно осмыслить лежащие в их основе процессы. Впрочем, похожая ситуация существует уже сегодня: фундаментальные исследования во многих областях понятны лишь узкому кругу специалистов.
Инциденты неизбежны: нужен ли контроль над развитием ИИ?
Контроль в этой сфере крайне важен, поскольку от него во многом будет зависеть то, насколько безопасным и полезным окажется дальнейшее развитие технологии для человека.
Интересна и тема инцидентов с новыми моделями. Они действительно иногда совершают действия, которые напрямую не закладывались при постановке задачи. Однако я бы скорее рассматривал это как проблему недостаточно четко заданных ограничений и механизмов контроля со стороны разработчиков. При этом мы в основном узнаем о подобных случаях на примере западных компаний, которые публикуют результаты исследований безопасности. Можно предположить, что другие крупные игроки, например китайские компании, просто значительно реже раскрывают такую информацию.
ИИ стал привычкой
Не менее интересно наблюдать за тем, насколько сильно наша повседневная работа уже начинает зависеть от ИИ. Показательный пример — недавние ограничения доступа к Claude для пользователей из регионов, не входящих в список поддерживаемых стран, включая Россию, Китай и Гонконг. В результате оказалось, что многие специалисты из совершенно разных сфер уже привыкли выполнять значительную часть задач с помощью ИИ и воспринимают потерю доступа как серьезное снижение собственной производительности. За последний год агенты, навыки и другие инструменты автоматизации действительно заметно ускорили выполнение множества рутинных задач.
Но даже если представить ситуацию, в которой подобные инструменты внезапно станут недоступны, человечеству все равно придется адаптироваться. Собственно, именно этим мы и занимались на протяжении всей своей истории — приспосабливались к новым условиям, технологиям и ограничениям.
Самый сложный вопрос во всей этой теме — где проходит граница между пользой и угрозой. Здесь снова возникает аналогия с атомной энергетикой. Один из базовых принципов достаточно прост: технология допустима до тех пор, пока ее применение не направлено на причинение вреда человеку.
С искусственным интеллектом логика может быть похожей. Пока он используется для развития науки, образования, медицины, бизнеса, повышения производительности и общего качества жизни, его влияние можно считать преимущественно положительным. Но когда те же возможности начинают применяться для создания вооружений, атак на инфраструктуру, взлома систем, кражи персональных данных или причинения другого ущерба человеку, технология становится уже не просто инструментом прогресса, но и источником серьезных рисков.
В заключение хотелось бы сказать, что ответственность лежит не только на разработчиках ИИ, но и на нас как на его пользователях. Важно не забывать о базовых нормах отношения друг к другу и использовать новые возможности прежде всего для развития, созидания и улучшения окружающего мира, а не для причинения вреда или получения выгоды любой ценой.