15 мая в Москве прошло масштабное мероприятие, посвященное теме искусственного интеллекта — VII Международный научный форум «Шаг в будущее: глобальный форсайт, искусственный интеллект и стратегическое лидерство». Он посвящён развитию технологий искусственного интеллекта (ИИ) и достижению стратегического лидерства в условиях глобализации и геополитических вызовов.
Форум собрал ведущих экспертов в области ИИ, что позволило обеспечить высокий уровень дискуссии и всестороннее рассмотрение ключевых вопросов. В ходе мероприятия обсуждались наиболее актуальные и важные темы, определяющие дальнейшее развитие сферы ИИ, а также предлагались инновационные решения для преодоления существующих вызовов.
В мероприятии активное участие принял Игорь Викторович Мамоненко, генеральный директор ГК «БелХард». Он выступил с важной для отрасли темой «Контроль хаотичного поведения нейросетей с помощью формальный семантик OSTIS в гибридных системах».
— С развитием искусственного интеллекта всё острее становится проблема недетерминированности и потенциальной опасности автономных нейронных сетей. Современные ИИ-модели способны к самообучению и адаптации, что делает их мощным инструментом, но одновременно порождает риски, связанные с некорректными выводами, отклонением от заданных целей и даже угрозой бунта системы против человека. Решением этой проблемы может стать внедрение семантического «кокона», обеспечивающего логический контроль над действиями нейросети. Одной из наиболее перспективных платформ для реализации такого подхода является технология OSTIS (Open Semantic Technology for Intelligent Systems).
Проблема: ограничения современных нейронных сетей.
Нейронные сети демонстрируют выдающиеся результаты в задачах распознавания образов, машинного перевода, прогнозирования и принятия решений. Однако они имеют и ряд фундаментальных недостатков:
1. Чёрный ящик — внутренние процессы сложно интерпретировать, а причинно-следственные связи не всегда понятны;
2. Недетерминированность — при одинаковых входных данных система может давать разные выходы;
3. Логическая некорректность выводов — нейросети могут принимать решения, нарушающие логическую согласованность и здравый смысл;
4. «Галлюцинации» — при недостаточности вычислительных средств или данных нейронная сеть может давать ответы которые не соответствуют действительности;
5. Риск бунта нейросети — нейронные сети наделены возможностью постоянно переучиваться, чтобы улучшить качество своей работы. Это осуществляется путем автономного изменения нейронной сетью значений весовых коэффициентов, ослабляющих или усиливающих сигналы между нейронами. Эти процессы не контролируются извне и не исключено, что они могут привести к возникновению версии нейронной сети, поведение которой будет противоречить интересам пользователя или общества. Такие случаи уже известны.
Эти особенности особенно критичны в таких областях, как медицина, право, военная отрасль и управление автономными системами, где ошибки ИИ могут иметь катастрофические последствия.
Решение: гибридные ИИ-системы.
Для преодоления указанных проблем предлагается использовать гибридные ИИ-системы, сочетающие преимущества нейросетевых моделей и формализованных семантических технологий. Такие системы состоят из двух ключевых компонентов:
— Нейронная часть — отвечает за обработку данных, обучение и адаптацию;
— Семантическая часть — обеспечивает проверку логической корректности выводов, контролирует соответствие целям и правилам, установленным человеком.
Важной особенностью такой архитектуры является возможность создания семантического кокона, который окружает нейросеть и предотвращает выход за рамки заранее заданных норм.
OSTIS: платформа для построения семантического кокона.
Технология OSTIS представляет собой открытую платформу для построения интеллектуальных систем на основе формализованных знаний. OSTIS обладает рядом уникальных свойств, делающих ее идеальной основой для реализации семантического кокона.
Формализация знаний через SC-нотацию.
SC-нотация — это строго определенный язык представления знаний, позволяющий записывать информацию в виде формальных конструкций, которые могут быть обработаны и проверены логически. Это исключает неопределенность, характерную для нейросетей.
Объяснимость выводов.
Все этапы рассуждений в OSTIS сохраняются и доступны для анализа. Это позволяет человеку понимать, почему была принята та или иная рекомендация или решение, что особенно важно в ответственных сферах.
Гибкая интеграция с внешними модулями.
OSTIS поддерживает взаимодействие с различными типами ИИ-компонентов, включая нейронные сети, экспертные системы и базы данных, благодаря универсальному SCI-интерфейсу.
Интероперабельность и масштабируемость.
Платформа позволяет создавать многофункциональные ИИ-системы, объединяющие разнородные источники информации и алгоритмы. Благодаря своей модульной архитектуре OSTIS удобна для долгосрочных проектов, требующих развития и адаптации.
Построение гибридной системы на основе OSTIS.
Гибридная система на основе OSTIS работает следующим образом:
1. Нейросеть получает данные и формирует вывод;
2. Этот вывод кодируется в виде SC-конструкции и передается в семантический кокон;
3. Семантическая часть проверяет вывод на соответствие логическим правилам и этическим нормам;
4. При необходимости вывод корректируется или блокируется;
5. Все этапы сохраняются и объясняются пользователю.
Особое значение имеет то, что нейросеть физически не может повлиять на структуру семантической части, ни через переобучение, ни через попытки самопрограммирования. Таким образом, она остаётся внутри «умного кокона», где её поведение полностью контролируемо.
Практические применения.
Технология OSTIS уже применяется в различных областях:
1. Медицинская диагностика — анализ симптомов и выдача обоснованных рекомендаций;
2. Образование — персонализированные системы обучения с объяснимыми выводами;
3. Право — автоматический анализ правовых ситуаций и подготовка консультаций;
4. Робототехника — логическое управление автономными системами;
5. Военная отрасль — обеспечение безопасности боевых ИИ-систем;
6. Транспорт — системы управления транспортом;
7. Строительство — контроль исполнения строительных норм;
8. Экспертные системы — подготовка интеллектуальных экспертных оценок на основе анализа разнородных данных;
9. Логистика — оптимизация маршрутов и управления складскими операциями;
10. Промышленность — автоматизация производственных процессов и контроль качества.
Благодаря интероперабельности OSTIS может использоваться для объединения разнородных нейросетей в единую систему, что открывает возможности для межведомственного взаимодействия и решения сложных комплексных задач.
Заключение.
Гибридные ИИ-системы, построенные на основе OSTIS, представляют собой эффективное решение проблемы хаотичного поведения нейросетей. Семантический «кокон» обеспечивает логический контроль, объяснимость и безопасность, предотвращая риск бунта искусственного интеллекта. Это делает OSTIS одной из самых перспективных технологий для построения надежных ИИ-систем будущего.
OSTIS — это не просто платформа, а шаг к решению одной из глобальных проблем XXI века: безопасного сосуществования человека и автономного искусственного интеллекта.