Нобелевский лауреат по физике Джеффри Хинтон предупредил об угрозе ИИ
Нобелевского лауреата 2024 года Джеффри Хинтона часто называют «крестным отцом» ИИ. При этом он известен своими не самыми оптимистичными заявлениями о потенциальных угрозах из-за искусственного интеллекта. Так, после получения одной из главных мировых наград Хинтон выступил с предупреждением: «ИИ можно сравнить с промышленной революцией. Однако на этот раз технологии превзойдут людей не в физической силе, а в интеллектуальных способностях. У человечества нет подобного опыта».
Чем опасен искусственный интеллект
- Несмотря на огромные потенциальные и уже реальные выгоды ИИ, например, в медицине или производстве, Джеффри Хинтон также подчеркнул и теоретическую опасность: «Меня беспокоит возможность того, что системы, — умнее человека, — могут однажды взять контроль в свои руки».
Между тем предупреждения Джеффри Хинтона касаются не только потенциальных угроз ИИ, но и необходимости создания международных стандартов и правил для регулирования развития новых подобных технологий.
В отличие от других научных открытий, - ядерная энергия или генная инженерия, — искусственный интеллект развивается стремительно, уже значительно влияя на многие аспекты жизни обычных людей.
- По мнению Хинтона, человечество находится на пороге эпохи, когда технологии могут превзойти людей по интеллекту. И это требует тщательной оценки последствий.
Предупреждения Нобелевских лауреатов: от ядерного оружия до генной инженерии
История Нобелевской премии знает множество случаев, когда лауреаты и ученые предостерегали общество о рисках открытий.
- 1935: Радиоактивность и ядерное оружие
В 1935 году Фредерик Жолио и Ирен Жолио-Кюри получили Нобелевскую премию по химии за открытие первых искусственно созданных радиоактивных атомов. Их работа стала основой для создания новых методов лечения рака, — но к тому же повлияла на разработку ядерного оружия.
В своей Нобелевской лекции Жолио заявил: «Если трансмутации распространятся на материю, можно представить колоссальное высвобождение энергии. Однако, если этот процесс охватит все элементы планеты, последствия будут катастрофическими».
- 1945: Антибиотики и устойчивость к лекарствам
Сэр Александр Флеминг получил Нобелевскую премию по медицине за открытие пенициллина, что привело к революции в лечении бактериальных инфекций. В своей Нобелевской лекции он предупредил о возможности появления устойчивых к антибиотикам штаммов.
- 1980: Генная инженерия и рекомбинантная ДНК
Пол Берг получил Нобелевскую премию по химии за работы в области рекомбинантной ДНК: это проложило путь к эре биотехнологий. В своей Нобелевской лекции Берг затронул возможные риски генетической инженерии, включая использование технологии для биологического оружия и неизвестные последствия в терапии генетических заболеваний.
2020: Редактирование генома и технология CRISPR-Cas9
Дженнифер Даудна и Эммануэль Шарпантье получили Нобелевскую премию за разработку метода CRISPR-Cas9. Он позволяет редактировать геном с высокой точностью.
В своей Нобелевской лекции Даудна подчеркнула необходимость соблюдения строгих норм безопасности при применении новой технологии, — особенно при редактировании зародышевых клеток, ведь изменения в них могут передаваться потомкам.