Ушёл из жизни гениальный учёный, и сегодня его вспоминает всё сообщество искусственного интеллекта
Прошло почти два месяца с тех пор, как исследователь Deepmind Феликс Хилл в последний раз выступал на платформе X.
К сожалению, учёный-исследователь скончался 5 декабря прошлого года после долгой борьбы с тяжёлым психическим заболеванием.
Эту новость также подтвердил Доуве Киела, адъюнкт-профессор Стэнфордского университета и генеральный директор компании Contextual AI, на платформе X.
После того, как стали известны плохие новости, многие люди в кругу ИИ вспомнили об этом друге в зоне комментариев Доуве Киелы.
Даже Гэри Маркус, у которого были академические разногласия с Феликсом, сказал:
Хотя мы иногда расходимся во мнениях на интеллектуальном уровне, мне очень жаль это слышать. Пусть он покоится с миром.
Многие ученые-исследователи, в том числе генеральный директор и соучредитель Udio Дэвид Дин, старший научный сотрудник Google Натаниэль Руис, Meta и OpenAI, также опубликовали сообщения, в которых выразили свои соболезнования.
Пусть покойный упокоится с миром. Мои глубочайшие соболезнования его друзьям и близким.
Кёнхен Чо, известный исследователь искусственного интеллекта и профессор Нью-Йоркского университета, встретил Феликса в Монреале летом 2014 года и позже опубликовал пост, вспоминающий прошлое. В то время Кёнхён был научным сотрудником, а Феликс был приглашенным студентом.
Они подружились из-за академической дискуссии о грамматических структурах.
Одним из результатов совместной исследовательской работы стало создание тренда «огромных таблиц» в статьях, опубликованных в 2016 году. Этот стиль широко копировался академическим сообществом в последующие 3-5 лет.
Хотя этот человек скончался, свет взглядов Феликса Хилла будет жить вечно.
Он импонирует даже коллегам, которые никогда с ним не встречались. Джим Фан, старший научный сотрудник NVIDIA, сегодня также переслал блог Феликса Хилла на платформу X, чтобы почтить память своего друга.
Это самый душераздирающий блог, который я когда-либо читал, потому что он так правдив и так близок моему сердцу.
Автора больше нет с нами. Я не смогла сдержать слез…
Я никогда не имел удовольствия познакомиться с Феликсом лично, но мне понравился его исследовательский подход, и я установил оповещение в Google Scholar о каждой его новой статье.
Его работа в области агентов и VLM оказала глубокое влияние на мои исследования. Он мог бы быть хорошим другом. Я очень хотела с ним познакомиться, но теперь мне не представилась такая возможность.
Он возглавляет исследовательскую группу ИИ, но не может победить своих внутренних демонов.
Публичная информация Linkedin показывает, что Феликс Хилл — прилежный студент с отличной успеваемостью в светском смысле.
Он окончил Оксфордский университет со степенью бакалавра математики, а также был капитаном команды Оксфордского университета по бадминтону. Последипломная стажировка проходит в Национальном автономном университете Мексики по специализациям в области когнитивных наук, лингвистики и образования с упором на междисциплинарные области (когнитивная наука и лингвистика).
Этот опыт не только обогатил его международный кругозор, но и расширил его академические интересы.
С 2011 по 2016 год он изучал лингвистику и компьютерную лингвистику в Кембриджском университете, во время которого также был капитаном команды по гольфу.
После поступления на работу карьерный рост Феликса пошел гладко.
Когда-то он посвятил себя образованию и в течение 14 месяцев работал учителем математики, помогая учащимся в возрасте 14–18 лет готовиться к экзаменам и поступать в колледж. В то же время он с энтузиазмом относился к общественному благосостоянию и поддерживал местные образовательные неправительственные организации. .
После 2016 года Феликс долгое время работал в Google Deepmind.
До своей смерти он в основном руководил командой Deepmind, которая исследовала взаимодействие между языком и общим интеллектом. В то же время он также начал переключать свое внимание на передовые научные и технологические исследования, уделяя особое внимание лингвистике, машинному обучению и разработке моделей искусственного интеллекта.
Данные Google Scholar показывают, что его статьи цитировались в общей сложности 19 680 раз с индексом Хирша 42, из которых количество цитирований после 2020 года достигло 16 608 раз, что оказало большое влияние на смежные области.
На платформе X этот друг написал в своем представлении:
Я стараюсь тщательно обдумывать содержание каждого твита, особенно тех частей, которые посвящены футболу 90-х и музыке 80-х. Мое мнение полностью принадлежит мне и никоим образом не отражает мнение других.
Однако этот ученый-исследователь искусственного интеллекта, добившийся больших успехов в глазах всего мира, борется с тяжелым психическим заболеванием. В блоге Феликса он также записал свое мысленное путешествие на последнем этапе своей жизни:
Его мать умерла от болезни Альцгеймера в апреле 2023 года, и в тот же период он был госпитализирован с острым психозом, возможно, вызванным стрессом. Это последовало за 12-месячным периодом сильной тревоги и глубокой депрессии.
Получив понимание и поддержку от моего работодателя, включая терапевтическую поддержку и духовную помощь, и начав улучшаться после 6-месячного периода опасной для жизни депрессии, я начал думать и записывать свои наблюдения и понимание стресса и тревоги.
Однако судьба часто играет с людьми злые шутки. 5 декабря прошлого года этот друг наконец-то преждевременно скончался.
РВАТЬ 
Прилагается репост Джима Фана оригинального блога Феликса Хилла.
Ответственность 200 миллиардов веса
Давление современной работы в области искусственного интеллекта
Автор Феликс Хилл, октябрь 2024 г.
За последние два года сфера ИИ необратимо изменилась.
ChatGPT имеет около 200 миллионов активных пользователей в месяц. В мае 2024 года Gemini посетили почти 320 миллионов человек. Сегодня энтузиасты искусственного интеллекта могут даже использовать микроволны с искусственным интеллектом, зубные щетки с искусственным интеллектом и даже футбольные мячи с искусственным интеллектом.
Однако для многих из нас, работающих в области искусственного интеллекта, этот всплеск общественного интереса стал одновременно и благословением, и бременем. Действительно, по мере роста заработной платы растут цены на акции и рыночные оценки. Но в то же время эти изменения также создают уникальное давление.
Этот блог посвящен давлению, вызванному современным искусственным интеллектом. Его целевая аудитория — те, кто работает в области искусственного интеллекта (что, по самым скромным оценкам, составляет около 87% населения мира), особенно те, кто занимается исследованиями в области искусственного интеллекта.
В конечном итоге я надеюсь, что, обсуждая стрессовые аспекты исследований ИИ, я смогу сделать жизнь более приятной для тех, кому посчастливилось работать в этой области. Потому что, несмотря на нынешний хаос, это прекрасная и плодотворная карьера, которая потенциально может ответить на многие великие вопросы науки, философии и даже самого человечества.
Нет выхода
Несколько месяцев назад я присутствовал на вечеринке по случаю 40-летия друга. Мы близкие друзья, поэтому многих гостей вечеринки я знал, некоторых очень хорошо. Но были и люди, которых я вообще не знал.
Среди тех, кого я плохо знал, я заметил странное явление.
Несмотря на то, что я в тот момент был не в добром здравии (подробнее об этом позже) и явно не хотел активно участвовать в разговоре, вокруг меня стояла небольшая очередь из людей, просто потому, что все знали, что я работаю в DeepMind и многие люди хотели поговорить со мной.
Эти разговоры касались не расслабляющих тем, таких как футбол или музыка 80-х, а одной темы, которой мне больше всего хотелось избегать: искусственного интеллекта. Хотя мне польщен интерес к моей работе, он также заставляет меня осознать, как много изменилось за последние два года. Банкиры, юристы, врачи и консультанты по менеджменту — все хотели, чтобы я прокомментировал ChatGPT, хотя немногие из них напрямую использовали эти LLM в своей работе, все они были убеждены, что с ИИ происходит что-то важное и что им нужно это понять;
Как исследователь, я уверен, что вам знакомо чувство невозможности «выключить выключатель» в социальных ситуациях.
Но дела пошли еще хуже. Даже находясь в собственном доме, я не мог сбежать.
Я перестал смотреть новости, опасаясь вызвать беспокойство. Но даже при просмотре футбола, VH1, «Инспектора Монтальбано» или замечательной телеадаптации «Неаполитанской трилогии» реклама полна отсылок к ИИ.
В это время я часто думал о том, чтобы собрать чемоданы, переехать через континент и присоединиться к уединенной религиозной общине. Хотя я не удивлюсь, что даже випассана-йога теперь может быть в какой-то степени проникнута искусственным интеллектом.
неявная конкуренция
Несколько крупных компаний, кажется, конкурируют за разработку самых крупных и мощных крупномасштабных языковых моделей, что само по себе создает огромное давление, независимо от того, в какой компании вы работаете.
В текущих исследованиях ИИ иногда создается впечатление, что мы участвуем в войне. От Адольфа Гитлера до Холланда Шульца мы знаем, что участие в войне может иметь серьезные последствия, включая психические заболевания, развод и самоубийство.
Конечно, это не означает, что участие в исследованиях ИИ приравнивается к физическому бою в «настоящей войне». Но, исходя из моего собственного опыта, сходство между ними, хотя и надуманное, но вполне реально.
Влияние на прибыль компании
Обычно исследователи, работающие в промышленности, не привыкли к прямому и непосредственному влиянию, которое их работа оказывает на прибыль их работодателя.
Конечно, многие исследователи мечтают о такой возможности. Но в прошлом такое обычно происходило только раз в десятилетие.
Сегодня результаты фундаментальных исследований LLM часто приводят лишь к тонким, краткосрочным колебаниям эффективности модели. Однако из-за повышенного общественного интереса к деятельности LLM эти колебания, в свою очередь, могут привести к изменениям цен на акции на миллиарды долларов.
Эта динамика, очевидно, очень напряженная, и исследователей ИИ не учат справляться с этим в аспирантуре, постдокторантах или даже на своей работе до 2022 года.
деньги, деньги, деньги
Большинство исследователей ИИ, особенно старше определенного возраста, занимаются исследованиями не ради заработка. Зарабатывать кучу денег на любимой работе может показаться хорошим лекарством, но это также может вызвать сильное чувство тревоги. Эта тревога особенно очевидна, когда внешние факторы, увеличивающие доход, находятся вне контроля человека или когда эти факторы уменьшают любовь к работе.
Связано это с искусственным интеллектом или нет, существует множество свидетельств того, что внезапное накопление богатства может вызвать самые разные проблемы; просто посмотрите на актеров или певцов, которые после многих лет упорного труда, наконец, в одночасье становятся знаменитыми. Зависимость, разрыв отношений, разрыв дружбы и даже самоубийство — вот некоторые из наиболее распространенных последствий. Лично меня эти вопросы вызывают глубокие переживания.
Ученые бесполезны
Масштаб, простота и эффективность LLM не позволяют научным исследованиям стать «актуальными», то есть напрямую способствовать повышению эффективности LLM.
Многие ведущие исследователи LLM начали пропагандировать «горький урок» Рича Саттона: нет необходимости в каких-либо инновациях, кроме масштабирования.
Даже если существенные инновации теоретически возможны (а это не подлежит сомнению), достижение этих инноваций часто требует повторного обучения крупнейших LLM в разных условиях. Это то, что сегодня не могут себе позволить даже крупнейшие компании. Для «обычного» ученого-исследователя такая ситуация может быть эмоционально и физически истощающей.
Эти условия уже тяжелы для ученых-промышленников, привыкших работать в небольших коллективах (5-10 человек). Для докторов наук, постдоков и преподавателей AI/CS/ML в академических кругах это давление, несомненно, более сильное.
Опубликовать статью
В то время как исследователи в академических кругах могут (и должны) продолжать публиковать результаты экспериментов LLM, для ученых в промышленности становится все более неопределенным, является ли публикация статей жизнеспособным результатом исследований.
Публикация статей уже давно стала основной частью научного процесса и важным принципом исследований ИИ. Большинство исследователей искусственного интеллекта, с которыми я общаюсь, особенно ученые-исследователи, согласны с тем, что издательское дело является неотъемлемой частью нашей карьеры.
Однако, по крайней мере в промышленности, публикация результатов исследований как жизнеспособный вариант за последние два года становится все более сомнительной. Даже некоторые небольшие хитрости, которые могут немного улучшить производительность LLM, могут стать ключевым «оружием» в войне LLM. Следует ли обнародовать эти «секреты» и принесет ли это пользу учреждениям, финансирующим исследования, всегда остается деликатным вопросом.
Все это означает, что исследователи зачастую мало контролируют судьбу своих идей. И эта ситуация, по крайней мере для меня, может вызвать сильный стресс.
запускать
Конечно, один из возможных способов избежать этих проблем — сформулировать научное видение, собрать средства и создать стартап. Фактически, нынешний всплеск стартапов в области ИИ (как больших, так и малых) показывает, что многие ученые уже выбрали этот путь.
Однако то, что вы станете основателем, не гарантирует, что вы избавитесь от проблем, связанных со стрессом. Фактически, эта дорога известна своим высоким уровнем стресса. Даже несмотря на нынешний энтузиазм инвесторов, многие хорошо финансируемые стартапы в области искусственного интеллекта по-прежнему терпят неудачу. По моему собственному опыту, быть основателем может быть особенно одиноким путешествием. Сегодня это, безусловно, жизнеспособный вариант для начинающих ученых, но он не делает научные исследования более легкими или менее напряженными.
Почему я решил написать блог о стрессе?
Последние два года были хаотичными и сумасшедшими для мира искусственного интеллекта и особенно беспокойным временем лично для меня.
В апреле 2023 года моя мать скончалась после долгой борьбы с болезнью Альцгеймера. В то время я находился в психиатрической больнице из-за острого психоза, и стресс, вероятно, был важным фактором, спровоцировавшим все это. В течение следующих 12 месяцев я теоретически выздоравливал, но на самом деле переживал состояние крайней тревоги и глубокой депрессии. За это время мне очень повезло, что у меня были работодатели, которые понимали мою ситуацию (и признавали ценность моего вклада в компанию) и оказывали мне постоянную терапевтическую поддержку и этическую заботу.
После еще 6 месяцев опасной для жизни депрессии я, наконец, начинаю чувствовать себя лучше и недавно почувствовал себя вправе написать о своем опыте. Я понял, что стресс и тревога идут рука об руку; на самом деле это может быть одно и то же. Конечно, как и любая адаптивная черта, тревога может быть в определенной степени полезной (например, она может повысить продуктивность), но когда тревога становится злокачественной, последствия могут быть серьезными.
Именно размышляя о своем опыте в области ИИ за последние два года, пытаясь заново научиться быть исследователем ИИ, я получил идеи, которыми делюсь в этом блоге. Конечно, простой обмен этими мыслями не решит все проблемы, но в самые мрачные моменты моей жизни единственной вещью, которая давала мне надежду, было осознание того, что я не одинок. Если вам сейчас больно, поверьте мне – вы не одиноки.
социальная тревога
Я обсудил ряд причин, по которым люди, сейчас работающие над ИИ, могут испытывать стресс или беспокойство. Но есть еще одна форма стресса, о которой я еще не упомянул, потому что мне посчастливилось никогда с ней не сталкиваться. Этот стресс и есть социальная тревога.
Друзья описывают людей с социальной тревожностью как людей, которым сложно групповое взаимодействие. В современном мире искусственного интеллекта такие трудности стоят особенно остро, поскольку необходимы большие проектные команды и межконтинентальное сотрудничество. Проблема только усугубляется высокой текучестью кадров в современной отрасли, поскольку сложившиеся команды (часто рассматриваемые как социальная «система безопасности») могут быть уничтожены в одночасье. Частая смена кадров также может привести к проблемам доверия, поскольку однажды надежные союзники могут присоединиться к «враждебным» исследовательским группам.
Хорошей новостью является то, что, как и все признаки тревоги или стресса, которые я обсуждал ранее, социальную тревогу можно преодолеть. Процесс преодоления начинается с развития сетей естественной поддержки, например, опоры на семью и друзей, не являющихся искусственным интеллектом. Но важным вторым шагом для всех нас, работающих в сфере ИИ, является начать и продолжать честные разговоры о стрессе.
Поэтому, пожалуйста, поделитесь своим опытом через твиты или комментарии. Давайте работать вместе, чтобы сделать исследования ИИ не просто ярким и интеллектуально сложным местом, а полем сострадания и доброты.
# Добро пожаловать на официальную общедоступную учетную запись WeChat aifaner: aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.
Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo