Scientific journal

Modern high technologies

ISSN 1812-7320

"Перечень" ВАК

ИФ РИНЦ = 1,172

Введение

Статистический анализ программного кода – это обширная область исследования языков программирования, которая на протяжении десятилетий не теряет своей актуальности и практической значимости [1]. Целью анализа кода является определение свойств программы в отношении ее поведения. Статический анализ проверяет код на наличие ошибок или плохих практик без выполнения самого кода. Это означает, что код читается, возможно, компилируется и проверяется на наличие заранее предопределенных шаблонов, которые помечаются как потенциально проблемные. В некоторых случаях статический анализ также предлагает исправления, которые изменяют эти шаблоны, чтобы устранить предполагаемую проблему. Традиционно методы статического анализа призваны предоставлять формальные гарантии относительно некоторого свойства программы, например что выход функции всегда удовлетворяет некоторому условию или что программа всегда завершается. Для обеспечения таких гарантий традиционный анализ кода опирается на строгие математические методы, которые могут детерминированно и окончательно доказать или опровергнуть формальное утверждение о поведении программы [2].

Повышение объема кода и возрастание сложности программ и программных комплексов затрудняет процесс аналитического рассмотрения кода на предмет поиска ошибок, проблем, тупиков и неэффективных фрагментов программ. Классические статические анализаторы (например, SonarQube или Checkstyle), проверяющие синтаксические правила языков программирования и заданные правила и соглашения о необходимом построении программного кода, испытывают затруднения с определением сложных семантических ошибок, способных возникнуть даже в небольших программах, и паттернов уязвимостей, риски появления и сложность которых значительно возрастают в объемном программном коде. Другой недостаток, типичный для классических статических анализаторов, это высокий риск ложных предупреждений.

Альтернативой являются анализаторы, применяющие машинное обучение (например, CodeBERT или GraphCodeBERT), обучающиеся на больших объемах программного кода и комментариях к нему, с их помощью можно выявлять не только синтаксические, но и семантические ошибки и уязвимости, а также реализовывать дополнительные опции, например рефакторинг и перевод программного кода. Анализаторы, использующие генетические алгоритмы и машинное обучение, потенциально способны снизить риски появления ложноположительных срабатываний. Поэтому использование инструментов статического анализа на базе машинного обучения и внедрение вероятностных моделей поиска ошибок является перспективной областью научного знания.

Кроме указанных преимуществ применение нейронных сетей для статического анализа кода требует решения дополнительных подзадач и сталкивается со следующими проблемами. Для корректной работы статического анализатора с машинным обучением требуется объемный и качественный набор данных для обучения. Интерпретируемость решений, принимаемых моделями глубокого обучения, остается сложной задачей, что затрудняет анализ и отладку ошибок, обнаруженных ИИ [3]. Также отмечается высокая вычислительная стоимость обучения и работы таких моделей [4–6], что может быть неприемлемо для крупных кодовых баз. Другая важная проблема – это сложность обобщения моделей. Они могут плохо работать с новыми или редко встречающимися паттернами в коде, что приводит к ошибкам и ложным срабатываниям [7].

Поэтому углубление исследований в данном направлении составляет важную научно-практическую задачу, которая и предопределила выбор темы данной статьи.

Перспективы использования нейронных сетей для сбора лексических и синтаксических знаний на уровне предложений с дополнительным контекстом об ошибках и паттернах проектирования кода рассматривают в своих трудах М.В. Буйневич, К.Е. Израилов и др. [3], Sixuan Wang, Chen Huang [4], Jia Yang, Ou Ruan [5].

Над разработкой нейронной сети, которая может специально имитировать механизм исправлений существующих статических анализаторов, а также экстраполировать его на новые исправления, учитывая любое диагностическое сообщение, трудятся Д.А. Потапов, С.В. Корниенко [6], Chitti Babu Karakati, Sethukarasi Thirumaaran [7], И.В. Котенко, И.Б. Саенко, О.С. Лаута, А.С. Юрьев, М.С. Запруднов [8].

Возможности улучшения подхода к эффективной обработке сигналов тревоги статического анализа, который сочетает использование функций предупреждения, встраивание контекста, сгенерированного предварительно обученной моделью и различными архитектурами нейронных сетей, входят в круг научных интересов А.В. Козачка, Н.С. Ерохиной, Д.А. Николаева [9], Eren Bas, Erol Eğrioğlu [10], Peng Zeng, Guanjun Lin [11].

Однако, несмотря на многочисленные исследования и рекомендации, в данной предметной плоскости остается еще широкий спектр вопросов, которые до конца не решены. Разнообразные типы нейронных сетей и подходы к предварительной обработке данных влияют на работу и производительность модели, затрудняют решение задачи выбора максимально эффективной архитектуры. Подбор компонентов, включаемых в представление кода, для повышения качества результатов анализа и выявления ошибок и дефектов также является сложной интеллектуальной задачей.

Цель исследования – исследовать возможности применения нейронных сетей для задач статического анализа кода и особенности решения ими проблем, присущих классическим статическим анализаторам, а также в изучении практической реализации статического анализа кода с помощью графовой нейронной сети.

Материалы и методы исследования

Применены методы: системный анализ, моделирование, прогнозирование, численная оптимизация, теория вероятности, систематизация, обобщение. В процессе исследования проведено сравнение архитектур нейронных сетей для целей статического анализа, рассмотрены такие модели, как многослойный перцептрон, рекуррентная нейронная сеть, графовая нейронная сеть.

Результаты исследования и их обсуждение

Разработчики традиционно используют статический анализ для поиска гарантий: например, чтобы убедиться, что программа никогда не достигнет нежелательного состояния. Динамический анализ, в свою очередь, применяется для проверки конкретных аспектов выполнения программы, например, чтобы подтвердить, что определенные входные данные приводят к ожидаемым результатам. В отличие от этих методов, машинное обучение предлагает иной подход: оно помогает моделировать вероятности возникновения определенных событий, что может быть использовано для предсказания ошибок или уязвимостей до того, как они проявятся в коде. Развивающаяся область машинного обучения для кода наглядно продемонстрировала тот факт, что различные архитектуры нейронных сетей могут найти свое применение к исходному коду для решения ряда задач программной инженерии. Предпосылкой является то, что, хотя код имеет детерминированную, однозначную структуру, программисты в процессе его написания используют паттерны и неоднозначную информацию (например, комментарии, имена переменных), которые ценны для понимания его функциональности [12]. Именно этим явлением может воспользоваться анализ программ на базе нейронных сетей. В частности, машинное обучение может помочь анализу программ справиться с двумя общими источниками неоднозначности: скрытыми спецификациями и двойственными контекстами выполнения (например, из-за динамически загружаемого кода).

В табл. 1 систематизированы достоинства и недостатки нейронных сетей, таких как графовые, сверточные и трансформеры, чаще всего используемых для статистического анализа кода.

Последние достижения в области машинного обучения произвели революцию в представлении исходного кода, породив методы, которые могут быть сгруппированы в четыре категории: текстовые, лексические, синтаксические и семантические. Каждая группа обладает определенными характеристиками, а также имеет ряд достоинств и недостатков. Например, текстовые представления, такие как модели n-грамм, обученные на обширных корпоративных массивах, оказываются эффективными для предсказания лексем в различных областях [13].

Таблица 1

Описание возможностей нейронных сетей в статистическом анализе кода

Источник: составлено автором.

Подходы к применению нейронных сетей в статическом анализе кода Источник: составлено автором

Представления на основе лексики обеспечивают возможность абстрагирования, в то время как представления на основе синтаксиса и семантики дают возможность достичь более высокого уровня абстракции, но требуют предварительной обработки, например, преобразования исходного кода в древовидную или графовую структуру [14]. Методы, основанные на синтаксисе и семантике, часто используют абстрактные синтаксические деревья (AST – abstract syntax trees), такие как ASTNN (abstract syntax tree neural network – нейронная сеть на основе абстрактного синтаксического дерева), которые учатся синтаксическим знаниям на основе более мелких поддеревьев. Методы, основанные на семантике, часто включают информацию о зависимостях кода, относящуюся к потоку данных и управления [15].

Систематизируя имеющиеся на сегодняшний день разработки, на рисунке представлена общая структура категоризации подходов к применению нейронных сетей в статическом анализе кода.

Как уже отмечалось ранее, для статического анализа кода с использованием нейронных сетей могут использоваться различных архитектуры и модели. В рамках проводимого исследования проведем сравнительный анализ трех наиболее популярных архитектур – многослойный перцептрон (MLP – Multi-layer perceptron), рекуррентная нейронная сеть (RNN – recurrent neural network) и графовая нейронная сеть (GNN – graph neural network).

MLP – это относительно простой алгоритм, который предполагает использование нескольких слоев узлов для составления прогноза на основе входных признаков. Однако данная архитектура имеет небольшую сферу применения в рамках проведения статического анализа кода. Это связано с ограниченными возможностями MLP по захвату всей информации, которая содержится во входных признаках, что затрудняет обучение модели и восприятие более сложных закономерностей, присутствующих в данных. В большинстве случаев на практике MLP применяется в качестве базовой модели для установления эталона производительности при сравнении с последующими моделями [10].

Несмотря на то, что GNN часто ассоциируются с задачами компьютерного зрения, они также находят свое успешное применение в некоторых сферах статистического анализа кода. Например, к ним относится классификация предложений. Сеть рассматривает текстовые данные как одномерную последовательность контекстных вложений слов, где каждое слово представлено вектором в высокоразмерном пространстве. В работах Hongwei Tu, Yanqiang Han [15] GNN используются для применения сверточных операций к последовательности контекстных вложений с целью выявления локальных паттернов или особенностей в каждом входном предложении. Затем эти особенности проходят через слой объединения для уменьшения их размерности, после чего поступают в слой с полным подключением для классификации. Применяя сверточные операции к контекстным вложениям в коде, GNN могут научиться распознавать локальные паттерны или особенности в данных о сигналах предупреждений, что очень важно для отсеивания тех, которые являются ложными.

RNN являются эффективным инструментом, который позволяет точно и эффективно моделировать последовательные данные, это объясняется тем, что они способны поддерживать скрытое состояние, которое обновляется на каждом временном шаге. В качестве примера использования на практике RNN можно привести работу Chitti Babu Karakati, Sethukarasi Thirumaaran [7], в которой ученые предложили архитектуру двунаправленной рекуррентной нейронной сети (BiRNN – bidirectional recurrent neural network), включающей двунаправленный GRU-слой и полностью связанный слой для классификации. Двунаправленный GRU-слой состоит из двух наборов GRU-слоев: один обрабатывает входную последовательность слева направо, а другой – справа налево. Такая конфигурация позволяет модели учитывать контекстную информацию и эффективно моделировать входную последовательность в двунаправленном режиме. Модель BiRNN принимает последовательности контекстных сложений в качестве входных данных и направляет их через двунаправленный GRU-слой, который полностью включает в себя кодированное представление контекстной информации на выходе. Выходные данные слоя GRU в конечном итоге поступают в слой с полным подключением для классификации с целью распознавания предупреждений об ошибках в коде, которые могут быть приняты.

Таблица 2

Характеристика архитектур нейронных сетей для статистического анализа кода

Источник: составлено автором.

Таблица 3

Сводка вершинных признаков, использованных для блоков графа потока управления

Источник: составлено автором.

В табл. 2 представлена сравнительная характеристика рассмотренных архитектур.

Рассмотрим практический пример применения нейронной сети для статического анализа кода. Учитывая преобладание графовых представлений кода, используем GNN для проведения статического анализа. GNN стали ценным инструментом для анализа программных кодов благодаря их гибкости в обучении на основе широкого спектра паттернов и простоте комбинирования с другими нейросетевыми компонентами. Получив представление графа программы, GNN вычисляют вкрапления сети для каждого узла, чтобы использовать их в последующих задачах.

На вход сети будет подаваться граф потока управления, что имеет ряд практических преимуществ для вывода профиля кода. Обозначим их более подробно.

1. Так как компиляторы, как правило, работают с графом потока управления, применение модели GNN и графа управления органично подходит для решения задач статического и динамического анализа кода.

2. Модели GNN свойственно минималистичное представление графа, эффективно абстрагирующее наиболее важную информацию о связях и поведении программы.

3. Компактное представление графа потока управления, сохраняющее при этом всю важную информацию, повышает эффективность обучения модели и обеспечивают быструю сходимость.

Как показано в табл. 3, вершинные признаки графа потока управления делятся на три группы в зависимости от характеристик, которые они описывают.

Итак, статический анализ начинается с того, что сначала каждая сущность/узел vi встраивается в векторное представление nvi. Графы программ содержат богатую и разнообразную информацию в своих узлах, такую как значимые имена идентификаторов (например, max_len). Чтобы воспользоваться информацией, содержащейся в каждом узле с маркерами и символами, его строковое представление субтокенизируется (например, «max», «len»), и каждое исходное представление узла nvi вычисляется путем объединения вкраплений субтокенов, то есть для узла vi и объединения сумм входное представление узла вычисляется как

где ts – выученное вкрапление для подтокена s. Для синтаксических узлов их начальное состояние – вкрапление типа узла. Затем любая архитектура GNN, способная обрабатывать направленные неоднородные графы, может быть использована для вычисления вкраплений сети, то есть:

где GNN обычно имеет фиксированное число «слоев» (например, 8), , а – множество обратных ребер , т.е. .

Вложения сети {hvi} являются входными данными для нейронной сети, ориентированной на конкретную задачу.

Например, цель анализа неправильного использования переменных в коде состоит в том, чтобы (1) локализовать ошибку (если она существует), указав на неисправный узел, и (2) предложить исправление. Для этого предположим, что GNN вычислила вложения сети {hvi} для всех узлов в программном графе G. Тогда пусть – это множество узлов-токенов, которые ссылаются на использование переменных. Во-первых, модуль локализации нацелен на то, чтобы точно определить, какое использование переменной (если таковое имеется) является злоупотреблением переменной. Он может быть реализован в виде сети указателей на , где обозначает событие «нет ошибки», с обучаемым вложением . Затем, используя (обучаемую) проекцию u и softmax, можно вычислить распределение вероятностей по и специальное событие «отсутствие ошибки»:

.

Таким образом, GNN, обнаружив ошибку злоупотребления переменными в определенной строке, присвоит высокий ploc узлу, соответствующему токену, который является местом расположения ошибки злоупотребления переменными.

Выводы

Резюмируя полученные результаты, сделаем следующие выводы:

1. Графовые нейронные сети имеют большой потенциал для повышения эффективности решения задач статического анализа кода. Графы потоков управления, применяемые при решении таких задач с помощью модели GNN, эффективно и компактно представляют программный код и лежат в основе работы компиляторов, что обеспечивает их эффективность и органичность использования.

2. Технологии искусственного интеллекта и методы машинного обучения, тренирующиеся на больших данных и сохраняющие исторические данные, способны понижать риск ложноположительных срабатываний, присущий классическим статическим анализаторам кода.