«Крестный отец» искусственного интеллекта предупредил о том, что нейросети могут захватить мир
Хинтон попал в заголовки газет в мае, когда объявил, что уходит после десяти лет работы в Google, чтобы более свободно говорить об опасностях ИИ — вскоре после того, как ChatGPT всколыхнул медиа по всему миру.
Уважаемый ученый в области искусственного интеллекта, работающий в Университете Торонто, выступал перед переполненной аудиторией на технологической конференции Collision в канадском городе.
Конференция собрала более 30 000 основателей стартапов, инвесторов и работников технологического сектора, большинство из которых хотели узнать, как оседлать волну ИИ, а не услышать урок о его опасностях или призыв к вмешательству правительства. «Прежде чем ИИ станет умнее нас, я думаю, что людям, разрабатывающим его, следует приложить много усилий, чтобы понять, как именно он может попытаться забрать контроль», — заявил Хинтон.
«Сейчас есть 99 очень умных людей, пытающихся улучшить ИИ, и один очень умный человек, пытающийся понять, как остановить его. Возможно, вы хотите более сбалансированное соотношение», — добавил он.
Хинтон предупредил, что к рискам ИИ следует относиться серьезно.
Хинтон также выразил обеспокоенность тем, что ИИ усугубит неравенство, а огромный прирост производительности от его развертывания пойдет на пользу богачам, а не простым рабочим.
«Богатство не достанется людям, выполняющим работу, оно пойдет на то, чтобы сделать богатых богаче, а не беднее, и это очень плохое общество», — добавил он.
Он также указал на опасность «фальшивых новостей», создаваемых ботами в стиле ChatGPT, и выразил надежду, что контент, созданный ИИ, можно будет помечать так же, как центральные банки наносят водяные знаки на наличные деньги.