Агенты, безопасность и AGI-2028: куда всё идёт и что делать бизнесу

Третья, заключительная часть. Агенты, о которых я писал в начале серии, за эти месяцы стали мощнее на порядок. Но вместе с силой пришли и новые риски, которые бизнесу нельзя игнорировать. Давайте честно — и про светлую сторону, и про тёмную.

Скиллы: суперсила с подвохом

Агентам научились добавлять «скиллы» — готовые модули под конкретные задачи, как плагины. Удобно: собрал агента под себя из кубиков, не изобретая велосипед. Anthropic даже выпустила официальный репозиторий скиллов как эталон.

Но вот цифры, от которых я напрягся. По разным разборам, до 36% популярных скиллов для ИИ-агентов содержали дыры в безопасности. А среди скиллов одной популярной открытой экосистемы каждый седьмой (около 15%) оказался откровенной малварью — вредоносным кодом.

Перевожу на язык бизнеса: это классическая атака на цепочку поставок. Вы ставите «полезный» модуль, а он получает доступ к вашим файлам, ключам и серверам — и сливает их. Поэтому правило железное: проверяйте то, что устанавливаете. Появились даже специальные сканеры скиллов (например, от Cisco) — прогоняйте через них любой чужой скилл перед установкой. Не тащите в рабочую среду код только потому, что у него красивое описание и много звёзд.

Мы у себя ведём внутренний каталог проверенных скиллов и не ставим ничего «с улицы» без аудита. Того же советуем клиентам.

Оркестрация: один ИИ дирижирует сотней себя

Следующий уровень, который разворачивается прямо сейчас, — оркестрация. Один агент перестаёт работать в одиночку и начинает дирижировать десятками своих копий, раздавая им подзадачи параллельно. По сути, ИИ научился масштабировать сам себя: пока одна копия пишет код, другая ищет в интернете, третья проверяет факты.

Сюда же — управление компьютером. Модель уже может сама двигать курсором, кликать, заполнять формы в браузере. Это открывает дикую автоматизацию: агент не просто советует, а делает за вас рутинные операции в любых программах.

Но чем больше у агента власти, тем выше планка аккуратности. Я твёрдо держусь принципа: человек остаётся в контуре принятия решений, особенно там, где деньги, доступы и необратимые действия. Автономность — это удобно, ровно до первой ошибки без присмотра.

Куда всё идёт: AGI к 2028

Если смотреть на горизонт, прогнозы людей, которые «варят» это будущее, сходятся: мы на пороге чего-то большого. В Anthropic говорят про AGI примерно к 2028 году. Глава DeepMind Демис Хассабис формулирует ещё жёстче — что во Вселенной пока не нашли ничего, что нельзя было бы вычислить. Если так, то любая задача — от энергетики до борьбы со старением — это вопрос достаточно мощного компьютера и правильного кода.

Вектор такой: модели становятся проактивными агентами, которые сами шуршат в почте и задачах; разрозненные системы (текст, видео, код) сливаются в единый мультимодальный интеллект; ИИ переходит от «красивых» видео к физически точным симуляциям — а это огромный толчок робототехнике, ведь роботы смогут учиться в «цифре» до выхода в реальный мир.

Скорость изменений, по оценкам, в десять раз выше, чем во времена промышленной революции. Масштаб впечатляет и, честно скажу, немного отрезвляет. Но именно поэтому отсиживаться нельзя.

Что делать бизнесу уже сейчас

Не ждать AGI. Начать с малого: собрать простого no-code агента под одну больную рутину — отчёты, разбор заявок, первичную поддержку клиентов. Это реально без программистов, буквально в несколько шагов, и окупается быстро.

Дальше — правила, которые мы соблюдаем сами и советуем клиентам. Первое: человек в контуре, особенно где деньги и доступы. Второе: безопасность важнее хайпа — проверяйте инструменты и скиллы сканерами, не ставьте чужой код вслепую. Третье: не привязывайтесь к одному вендору. Четвёртое: начните с автоматизации того, что отнимает больше всего времени, а не того, что моднее звучит.

Мы в «АйТи-Фреш» как раз помогаем малому и среднему бизнесу внедрять ИИ без граблей — подбираем инструменты, настраиваем агентов, закрываем вопросы безопасности. Чтобы технологии экономили время, а не создавали новые дыры. Хотите разобрать ваш конкретный случай — приходите на бесплатную консультацию.

На этом серию закрываю. За полгода ИИ прошёл путь от вежливого чатика до агента, который сам себя масштабирует и управляет компьютером. Дальше будет только быстрее. Но выигрывают не те, у кого самая модная модель, а те, кто аккуратно и безопасно встроил её в свои процессы. Этим мы и занимаемся — и вам поможем.