Почему Джеффри Хинтон, «крестный отец» искусственного интеллекта, ушел из Google, чтобы рассказать о рисках

Когда в 2018 году у Джеффри Хинтона возникли моральные возражения против сотрудничества Google с вооруженными силами США, он не принял участия в публичных протестах и ​​не указал свое имя в открытом письме с жалобой, подписанном более чем 4000 его коллег.

Вместо этого он просто поговорил с Сергеем Брином, соучредителем Google. Он сказал, что тоже был немного расстроен из-за этого», — сказал Хинтон в интервью в то время.

Инцидент символизирует тихое влияние Хинтона в мире искусственного интеллекта. 75-летний профессор почитается как один из «крестных отцов» искусственного интеллекта из-за его основополагающей работы в области глубокого обучения — области искусственного интеллекта, которая привела к огромным достижениям, происходящим в этом секторе.

Но рассказ также отражает лояльность Хинтона, по мнению тех, кто знает его лучше всего. В принципе, он никогда публично не высказывал каких-либо институциональных недовольств, этических или иных.

Именно эта вера заставила его уйти с поста вице-президента и научного сотрудника Google на прошлой неделе, чтобы он мог более свободно говорить о своей растущей озабоченности по поводу опасностей искусственного интеллекта для человечества.

Его давний соратник и друг Йошуа Бенжио, получивший премию Тьюринга вместе с Хинтоном и Ян-Локуном в 2018 году, сказал, что предвидит грядущую отставку. «Он мог бы остаться в Google и поговорить, но его чувство лояльности — нет», — сказал Бенжио.

Отставка Хинтона последовала за серией новаторских запусков искусственного интеллекта за последние шесть месяцев, начиная с ChatGPT на базе Microsoft в ноябре и чат-бота Google Bard в марте.

Хинтон выразил обеспокоенность тем, что гонка между Microsoft и Google подтолкнет развитие искусственного интеллекта без надлежащих барьеров и правил.

«Я думаю, что Google поначалу вел себя очень ответственно», — сказал он в своей речи на мероприятии EmTech Digital в среду после объявления о своей отставке. «Когда-то OpenAI создавал подобные вещи с .

С 1970-х годов Хинтон был пионером в разработке «нейронных сетей» — технологии, которая пытается имитировать работу мозга. Теперь он поддерживает большинство инструментов и продуктов ИИ, которые мы используем сегодня, от Google Translate и Bard до ChatGPT и беспилотных автомобилей.

Но на этой неделе он признал опасения по поводу его быстрого развития, которое может привести к тому, что дезинформация наводнит общественное достояние, а искусственный интеллект узурпирует больше рабочих мест, чем ожидалось.

«Что меня беспокоит, так это то, что это произойдет [make] Богатые богаче, а бедные беднее. как вы это делаете. . . «Общество становится все более жестоким», — сказал Хинтон. «Эта, должно быть, великолепная технология… разрабатывается в обществе, которое не предназначено для использования на благо всех».

Хинтон также забил тревогу по поводу долгосрочных угроз, которые системы ИИ представляют для людей, если технологиям будет предоставлена ​​слишком большая автономия. Он всегда считал эту экзистенциальную опасность недосягаемой, но недавно он пересмотрел свои мысли о ее безотлагательности.

«Вполне вероятно, — сказал он, — что человечество — это переходный этап в эволюции разума». Он добавил, что решение Хинтона покинуть Google спустя десять лет было вызвано его коллегой-академиком, который убедил его высказаться об этом.

Хинтон родился в Лондоне и происходил из известной семьи ученых. Он правнук британских математиков Мэри и Джорджа Булей, последний из которых изобрел булевую логику, теорию, лежащую в основе современных вычислений.

Как когнитивный психолог, работа Хинтона в области искусственного интеллекта была направлена ​​на приближение человеческого интеллекта — не только для создания технологии ИИ, но и для того, чтобы пролить свет на то, как работает наш мозг.

Его опыт означает, что он «не самый математический человек, которого вы найдете в сообществе машинного обучения», — сказал Стюарт Рассел, профессор искусственного интеллекта Калифорнийского университета в Беркли и научный сотрудник школы Хинтона.

Он указал на прорыв Хинтона в 1986 году, когда он опубликовал статью о технике, называемой «обратным распространением», которая показала, как компьютерные программы могут обучаться с течением времени.

«Это явно ключевая карта», — сказал Рассел. «Но он не вывел… управление так, как мог бы математик. Он использовал свою интуицию, чтобы найти метод, который будет работать».

Хинтон не всегда публично высказывал свои моральные взгляды, но ясно излагал их наедине.

В 1987 году, когда он был адъюнкт-профессором Университета Карнеги-Меллона в США, он решил оставить свой пост и иммигрировать в Канаду.

По словам Бенжио, одна из причин, которую он назвал, была моральной: он был обеспокоен использованием технологий, особенно искусственного интеллекта, в войне, и большая часть его финансирования поступала от вооруженных сил США.

«Он хотел чувствовать себя хорошо из-за финансирования, которое он получал, и из-за работы, которую он делал», — сказал Бенжио. «Он и я разделяем ценности общества. Люди имеют значение, что достоинство всех людей имеет важное значение. И каждый должен извлекать выгоду из прогресса, который делает наука».

В 2012 году Хинтон и его аспиранты Университета Торонто, в том числе Илья Суцкивер, ныне соучредитель OpenAI, совершили прорыв в области компьютерного зрения. Они построили нейронные сети, которые могут распознавать объекты на изображениях с более точными размерами, чем это было возможно раньше. На основе этой работы они основали свой первый стартап DNNresearch.

Их компания, которая не производила никаких продуктов, была продана Google за 44 миллиона долларов в 2013 году после того, как на конкурентном аукционе китайские фирмы Baidu, Microsoft и DeepMind сделали ставки на опыт трио.

С тех пор Хинтон провел половину своего времени в Google, а другую половину в качестве профессора в Университете Торонто.

По словам Рассела, Хинтон постоянно придумывает новые идеи и пробует что-то новое. «Каждый раз, когда у него появлялась новая идея, он говорил в конце своей речи: «И этот Как работает мозг! «

Когда его спросили на сцене, сожалеет ли он о поступке своей жизни, учитывая, что он, возможно, способствовал нанесению бесчисленного вреда, о котором он рассказал, Хинтон сказал, что думал об этом.

«Этот этап [AI] Не ожидалось. До недавнего времени я считал этот экзистенциальный кризис надуманным. «Поэтому у меня действительно нет никаких сожалений о том, что я делаю».