Кто умнее, тот и прав
Макс Тегмарк, физик и эксперт по ИИ из Массачусетского технологического института, сделал глубоко тревожный прогноз о нашем будущем на этой планете. По словам ученого, история уже не раз демонстрировала примеры того, как более разумные биологические виды были ответственны за исчезновение других видов. Так, например, в вымирании птицы додо (вида нелетающих птиц) виновен именно человек.
Если (или, скорее, когда) искусственный интеллект станет умнее нас, такая же судьба может постигнуть и человечество, предупреждает эксперт. Более того, мы даже не будем знать, когда это произойдет, ведь менее разумные виды, как правило, просто не способны это предсказать.
Во время своего интервью шведской телекомпании SVT профессор Тегмарк отметил: «Около половины всех видов на Земле уже уничтожено нами, людьми. Поскольку мы были умнее, они не имели контроля над этим». Он предупреждает о том, что так же может обернуться и для нас, если мы передадим контроль над нашим обществом в руки машин.
Недавно господин Тегмарк написал публичное обращение, состоящее всего из одного предложения, но охватывающее весь масштаб проблемы: «Снижение риска вымирания от ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Согласитесь, звучит действительно серьезно.
Технологии будущего или смертный приговор человечеству?
Некоторые ведущие ученые мира считают, что в ближайшем будущем ИИ можно будет использовать для создания автономного оружия или роботов, которые смогут убивать – с вмешательством человека или без него. Звучит довольно фантастично, по крайней мере, как для ближайшего будущего. Однако это далеко не единственная потенциальная угроза, которую несут технологии. Даже программное обеспечение ИИ может стать опасным и привести к фатальным последствиям, если оно запрограммировано ненадлежащим образом.
Пять лет назад профессор Тегмарк уже поднимал эту тему, говоря, что однажды люди могут стать заложниками созданных ими разумных машин. Некоторые из его коллег даже положительно восприняли такую возможность, рассматривая искусственный интеллект как продукт естественной эволюции, то есть нашими прямыми потомками.
Другая точка зрения заключается в том, что «суперинтеллект» можно держать под контролем, как прирученное животное, например, домашнюю собаку. Однако господин Тегмарк возражает, что человечество может оказаться недостаточно умным, чтобы укротить машину и справиться с ее мощью. Он также подчеркивает, что ИИ может перехитрить человека. «Они могут вырваться и захватить нас», – добавил профессор.
Как тебе такое, Илон Маск?
Одной из самых авторитетных фигур в разработке и популяризации современных технологий является, конечно, Илон Маск. С его именем связаны такие технологические компании, как Tesla, SpaceX и Neuralink. Когда речь заходит о возможностях ИИ, Илон Маск поражает своей откровенностью.
В марте этого года Маск и еще 1000 других технологических лидеров призвали приостановить «опасную гонку» по разработке искусственного интеллекта. По их мнению, она представляет «большой риск для общества и человечества» и может иметь «катастрофические» последствия.
Свою озабоченность по этому поводу Илон Маск начал публично высказывать еще в 2014 году. Тогда он сказал: «Мы должны быть чрезвычайно осторожными с ИИ. Он потенциально опаснее ядерного оружия». А уже через несколько лет он заявил, что ИИ является гораздо большей угрозой, чем Северная Корея.
Фото: Pixabay.com
