«Крестный отец ИИ» покинул Google и предупредил о рисках

Один из пионеров ИИ-отрасли Джеффри Хинтон ушел из компании Google и предупредил мир о потенциальных рисках, связанных с технологией. Об этом пишет The New York Times. По его словам, угроза наступит раньше, чем предполагалось. «Я думал, что это будет через 30-50 лет или даже больше.  Очевидно, теперь я так не считаю», — сказал ученый. Хинтон заявил, что сожалеет о работе всей своей жизни. Он упомянул о краткосрочных рисках, связанных с рынком труда, а также о распространении поддельных фотографий, видео и текстов. «Теперь я думаю, что создаваемый нами цифровой интеллект сильно отличается от биологического», — сказал ученый в комментарии для CNBC. Хинтон сослался на мощь языковой модели GPT-4 и чат-бота ChatGPT, который стал вирусным с момента запуска в конце прошлого года. «Если у меня есть 1000 идентичных цифровых агентов с одинаковым весом, всякий раз, когда один агент узнает что-то, все они сразу же узнают об этом из-за одинакового веса», — сказал Хинтон. По его словам, биологические агенты не могут этого сделать. «Таким образом, наборы идентичных цифровых агентов могут получить гораздо больше умений. Вот почему GPT-4 знает намного больше, чем любой человек», — заключил ученый. По словам Хинтона, он ушел из Google, чтобы свободно говорить об опасностях ИИ. In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.— Geoffrey Hinton (@geoffreyhinton) May 1, 2023 «Я ушел, чтобы поговорить об опасностях ИИ, не задумываясь о том, как это влияет на Google. Google поступила очень ответственно», — написал он. Хинтон, известный как «Крестный отец ИИ», получил докторскую степень в области искусственного интеллекта 45 лет назад. Он остается одним из самых уважаемых экспертов в этой области. Последнее десятилетие Хинтон работал на техгиганта неполный рабочий день. В 2022 году его назначили вице-президентом и научным сотрудником в Google Brain. Глава подразделения Джефф Дин выразил сожаление в связи с уходом Хинтона. «Мне будет его не хватать, и я желаю ему всего наилучшего!», — заявил он. Напомним, в апреле Google объединила подразделения Brain и DeepMind в одну команду. В июле 2022 года техгигант уволил инженера Блейка Лемуана, обнаружившего «разум» у языковой модели LaMDA. В июле 2021 года сооснователь ИИ-подразделения Google Сами Бенжио подал в отставку.