Врождённый деффект нейросетей
В парадигму развития существующих нейросетей изначально заложена ошибка. Именно она является главной причиной замедления развития искусственного интеллекта и его экстенсивности. Мы называем это «Ошибка Розенблатта» — ошибочный постулат, описывающий конструкцию формального нейрона как ограниченного одним весом на синапсе, что соответствовало давно устаревшим представлениям биологов.
Свойственные ограничения
Эта ошибка в изначальном устройстве нейросетей порождает неизбежные ограничения, которые становятся всё ощутимее и всё более критичными. C увеличением объёма данных и сложности задачи, потребность в вычислительной мощности нейросетей на обычных нейронах возрастает экпоненциально. Вместе с ними по экспоненте растут время на обучение, энергопотребление, стоимость человеческого ресурса и иные издержки. Стоимость обучения нейронных сетей становится непомерной.
Последствия
Описанный выше «врождённый дефект» и порождённые им ограничения привели к замедлению развития в области искусственного интеллекта. Причин несколько:
- Монополизация доступа:
- Требуется мощное компьютерное оборудование и дорогостоящая инфраструктура.
- Доступно лишь большим компаниям и гигантам-монополистам.
- Хронический дефицит вычислительных мощностей при экспоненциально растущих потребностях.
- Обработка данных на чужих мощностях несет в себе риски утери конфиденциальности данных.
- Высокие издержки:
- Колоссальная энерго- и ресурсоёмкость и гигантские выбросы.
- Сложность в интеграции, использовании и поддержке.
- Уязвимость и невысокая надёжность: сбои, ошибки, внешние воздействия.
- Непрозрачность процессов: тренировка нейросети происходит путём проб и ошибок.
- Низкая производительность:
- Низкая скорость тренировки, ускорение тренировки идёт очень медленно.
- Потребность в большом количестве данных и обучающих примеров.
- Эффект катастрофического «забывания» и «зависания» при усложнении задач.
- Невозможность до-обучения.
Разочарование экспертов в существующих ИНС
Джефф Хинтон, один из наиболее известных исследователей искусственного интеллекта, недавно рассказывал, что относится к современным технологиям искусственного интеллекта «с глубоким подозрением». «Я считаю, что нужно всё выкинуть и начать сначала.»
Франсуа Шолле, один из ведущих практиков в области сетей глубокого обучения, пришёл к выводу, что «нельзя достичь общего искуственного интеллекта просто масштабируя существующие технологии глубокого обучения».
Источник: The Secret to Strong AI by Jeff Hawkins, Co-Founder at Numenta