НЕЙРОННЫЕ СЕТИ: преимущества и опасности
Генеральный директор ООО «Инвест ИТ» Михаил Меркулов специально для журнала подготовил материал, рассказывающий о нейросети, причем постарался изложить его простыми словами и сделать максимально понятным для читателей.
Сначала давайте попробуем понять, что же это такое – нейросети. Будет немного занудно, но без этого в этой теме не обойтись.
Нейросеть – математическая модель, работающая по принципам нервной системы живых организмов.
Ее основное назначение – решать интеллектуальные задачи, то есть те, в которых нет изначально заданного алгоритма действий и спрогнозированного результата.
Для чего нужны нейронные сети?
Нейронные сети используются для решения сложных задач, которые требуют аналитических вычислений, подобных тем, что делает человеческий мозг.
Самым распространенным применением нейронных сетей является:
классификация – распределение данных по параметрам. Например, на вход дается набор людей, и нужно решить, кому из них давать кредит, а кому нет. Эту работу может сделать нейронная сеть, анализируя такую информацию как возраст, платежеспособность, кредитная история и т. д.;
предсказание – возможность предсказывать следующий шаг. Например, рост или падение акций, основываясь на ситуации на фондовом рынке;
распознавание – в настоящее время – самое широкое применение нейронных сетей. Используется в Google, когда вы ищете фото или в камерах телефонов, когда оно определяет положение вашего лица и выделяет его, и многое другое.
Очень приближенно нейронную сеть можно схематически увидеть на картинке:
Одно из самых основных преимуществ нейронной сети – это способность обучения.
Как оно происходит? Так же, как мы учимся ходить, говорить, держать ложку и т. п.: на основе собственного опыта (упал – больно) и на основе подсказок более опытных людей, например родителей.
Как же работает нейронная сеть?
Посмотрите на картинку. Синие круги – это входные данные. В примере с выдачей кредита это могут быть: возраст, доход, кредитная история и т. п. У каждого из них есть свой вес – значимость.
Совокупность этих параметров (стрелочки) приходят в следующий пункт (красные круги), назовем их обработкой параметров, каждое из этих решений тоже имеет свой вес для следующего этапа – выдачи результата (зеленые круги). Фактически в нашем случае зеленые круги – это решение: выдавать кредит или нет. Так как же определить, какое решение верное? Вот тут и начинается обучение: при первом запуске нейронной сети вес каждого параметра – одинаковый. После первого запуска система выдаст случайное решение – оно может оказаться правильным, а может и нет. После того как система выдала решение, опытный человек говорит сети, правильно она выдала результат или нет. Система запоминает этот ответ, корректирует вес (значимость) каждого параметра (если ответ правильный – значит, вес пути, как пришли к этому выводу, повышается, если нет – понижается). Запускается второй раз и снова выдает ответ; опять же опытный человек говорит, права система или нет, и снова происходит корректировка веса (значимости) каждого параметра. И так происходит много-много раз. В зависимости от задачи и сложности сети обучение может занимать от единиц до нескольких миллионов раз.
По сути, человек действует так же: мы учимся считать, писать, запоминая, какое решение верное, и в следующий раз уже используем накопленный опыт и знания, приходя к решению (тоже не всегда верному), только у нас есть еще эмоциональная окраска, которая тоже имеет свой вес. Вы же замечали, что когда вы довольны, то даже тучи за окном не могут вас расстроить, а когда подавлены, то и солнце светит чересчур ярко, что даже бесит. Отсутствие эмоций и позволяет нейронным сетям давать более правильную оценку. Как в примере с кредитом: неважно, какое настроение у человека, который принимает решение о выдаче кредита, может, его сегодня обидели, и он хочет на всех выместить свое настроение. У машины, как известно, эмоций нет.
Нейронная сеть – это отлично?
И да, и нет. Простейшие сети, которые сейчас студенты делают и используют в лабораторных работах, применяются в различных отраслях промышленности и на предприятиях – вне всякого сомнения, это отличная помощь человеку. Их однозначно не стоит бояться, наоборот – это облегчение труда, уменьшение ошибок, высвобождение времени на более полезные дела.
Тем не менее большие нейронные сети, про которые сейчас знают почти все – ChatGPT и т. п., могут представлять реальную опасность. Дело в том, что, в отличие от примера выше, подобные сети являются самообучаемыми. А чему может научиться ребенок без внимания взрослого, без направления на правильный путь? Такой ребенок может сделать что-то новое, так как не ограничен рамками «правильности». Основной вопрос – может ли это новое нанести вред всем другим людям или нет? Это неизвестно. И именно в этом состоит основная опасность, так как искусственный интеллект в том или ином виде используется везде (начиная от поиска в «Яндексе» и заканчивая автомобилями, самолетами и управлением атомными реакторами).
Опасность в том, что человек не только до конца не понимает, как функционирует его мозг, как он принимает решения, но и не может объяснить, как обучается и как функционирует сложная нейронная сеть.
Именно поэтому сейчас все большее количество известных и значимых людей в области ИТ говорят о необходимости приостановки развития нейронных сетей.
Сможет ли нейросеть заменить человека?
Нет. На текущем этапе развития нейросети могут помогать, минимизировать время на принятие решений человеком. Да, есть примеры, когда нейросети пишут программы, защиту обвиняемых для суда, рисуют картины и т. п.
Безусловно, эти направления будут развиваться и расширяться, но всегда должен оставаться кто-то, кто скажет, правильное решение представила нейросеть или нет, или всех людей поработит скайнет из терминатора, и мы будем жить, как в матрице. Во все времена были фантасты, которые предсказывали будущее.
Так или иначе, все мы знаем, что промышленная революция позволила сделать ощутимый скачок, за ней была революция технологическая, которая также позволила существенно упростить, облегчить труд людей. Вполне вероятно, что мы стоим на пороге нейронной революции. Надо учиться ею пользоваться.
P. S. Вот как нейросеть описала сама себя
Как искусственный интеллект, нейронные сети работают на основе алгоритмов машинного обучения, которые позволяют им осуществлять самообучение путем анализа больших объемов данных и выявления закономерностей. Нейронные сети имеют структуру, напоминающую мозг, состоящую из множества взаимосвязанных узлов, которые обрабатывают информацию и передают сигналы друг другу.
Основной принцип работы искусственного интеллекта заключается в том, что система способна анализировать данные, находить в них закономерности и применять полученные знания для принятия решений. Для этого искусственный интеллект может использовать различные алгоритмы и технологии машинного обучения, включая глубокое обучение, нейронные сети и анализ больших данных.
Современные нейронные сети могут применяться во многих областях, таких как распознавание образов, выборка текстовой информации, анализ социальных медиа, компьютерное зрение, управление роботами и др. Благодаря своей способности к самообучению и адаптации к новым данным и условиям искусственный интеллект и нейронные сети являются мощными инструментами для создания автономных систем, которые могут улучшать производительность и безопасность во множестве отраслей и областей жизни.
А вот так она объяснила про себя детям
Нейронная сеть – это компьютерная программа, которая работает похоже на наш мозг. Она состоит из множества маленьких «ячеек», которые называются нейронами, и каждый нейрон может принимать и передавать информацию. Нейронная сеть учится решать задачи, как, например, распознавать картинки или голоса, постепенно улучшая свои результаты при каждой новой задаче. Таким образом, можно сказать, что нейронная сеть – это «умная программа», которая учится и решает разные задачи.