Злоумышленники могут использовать для атак генеративные инструменты искусственного интеллекта (ИИ), такие как большие языковые модели (LLM). Они могут полностью или частично отвечать за подготовку информации для различных вредоносных задач или их выполнение. Такие задачи могут включать разведку, создание базовых сценариев, помощь в социальной инженерии и даже разработку полезных нагрузок.

Например, злоумышленник может автоматизировать некоторые задачи с помощью общедоступной LLM. С помощью ИИ может создаваться контент на разных языках для применения в кампаниях фишинга или фишинга с целью сбора сведений. Подобные общедоступные инструменты могут также облегчить изучение уязвимостей или другие исследования, направленные на разработку собственных средств. Инструменты на основе ИИ также могут автоматизировать технические задачи путем генерации или улучшения вредоносных сценариев и полезных нагрузок (например, путем обфусцирования файлов или данных).