Google CodeMender — ИИ-агент для исправления уязвимости в коде

Большие и малые IT-компании сегодня активно вкладываются в развитие ИИ. Недавно OpenAI и AMD заключили партнерство: AMD выделит до 6 гигаватт вычислительной мощности для OpenAI и позволит ей при определенных условиях выкупить до 10% своих акций. Теперь же Google анонсировал новые шаги в собственной ИИ-стратегии — и они действительно впечатляют.

Главное новшество — агент CodeMender. Как следует из названия, он умеет самостоятельно находить и исправлять уязвимости в коде. Инструмент создан на основе опыта Google с проектами BigSleep и OSS-Fuzz. Компания надеется, что CodeMender поможет разработчикам быстрее выпускать исправления для небезопасного кода. CodeMender использует Gemini для анализа первопричины (root cause analysis), после чего генерирует патч. Этот патч проходит проверку у «агентов-критиков», а затем передается человеку-ревьюеру для окончательной валидации и утверждения.

Кроме того, Google запустил отдельную программу поощрения за обнаружение уязвимости в своих ИИ-продуктах. В рамках программы за серьезные уязвимости можно получить вознаграждение до 20 000 долларов.

Наконец, Google обновил свою платформу Secure AI Framework (SAIF) до версии 2.0, в которую вошли три новых элемента: карта рисков агентов (agent risk map) для выявления и анализа потенциальных угроз, набор обновлений безопасности, распространяемых на все ИИ-агенты компании, а также передача данных карты рисков в организацию Coalition for Secure AI Risk Map, чтобы сделать информацию доступной более широкому кругу специалистов и способствовать укреплению безопасности ИИ-систем в целом.

Google подчеркивает, что стремится использовать искусственный интеллект для защиты пользователей от злоумышленников и атак, поддерживаемых государствами. Три представленные инициативы — часть долгосрочной стратегии компании по укреплению кибербезопасности с помощью ИИ.