Профессор Макс Тегмарк провел параллели с исчезновением вымерших видов и дал неутешительный прогноз: вероятность уничтожения человечества искусственным интеллектом составляет 50%. Это произойдет, когда машины станут «намного умнее нас», но точного времени никто не знает.
Искусственный интеллект (ИИ) уже не кажется чудом из произведений фантастов, а является реальностью. Поэтому не утихают споры о его дальнейшем влиянии на человечество. Так стоит ли на самом деле бояться ИИ?
Высший разум всегда побеждает
Макс Тегмарк, физик и эксперт по системам ИИ, дал тревожный прогноз о нашем будущем на этой планете. Ученый считает, что вероятность уничтожения человечества при дальнейшем развитии искусственного разума составляет 50%.
По словам эксперта, история демонстрирует, что ответственность за уничтожение «меньших» видов (например, птиц додо) лежит на людях – самых разумных существах на Земле. Если ИИ станет умнее людей, их может ждать такая же судьба, предупреждает ученый. Более того, мы не будем знать, когда наступит наша гибель от рук искусственного интеллекта, ведь менее разумные виды всегда не могут знать и быть готовыми к этому.
Ведущие ученые мира считают, что в ближайшем будущем ИИ будет использован для создания автономного оружия или роботов-убийц. Как отмечает издание Daily Mail, профессор Тегмарк сделал мрачные выводы относительно этого процесса.
По его словам, около половины биологического разнообразия на Земле уничтожено людьми. Уступая нам в интеллекте, «братья наши меньшие» не могли контролировать ситуацию. Поэтому, когда в противостоянии «человек – ИИ» машины станут умнее людей, то последние потеряют над ними контроль. Таким образом, все пойдет по аналогичной схеме и приведет к уничтожению человечества.
Риски от ИИ
Профессор Тегмарк – один из тех, кто подписал заявление-предупреждение о рисках от ИИ. В нем утверждается, что снижение рисков вымирания от искусственного разума должно иметь глобальный приоритет, так же как и от пандемий и ядерной войны.
Недостаточно тщательно запрограммированные технологии могут впоследствии привести к фатальной ошибке. Тогда даже безопасное (на первый взгляд) программное обеспечение может способствовать уничтожению человечества.
Макс Тегмарк еще в 2018 году предупреждал, что однажды люди могут стать рабами созданных ими умных машин. В то время он даже утверждал, что некоторые из его коллег могут приветствовать вымирание вида благодаря ИИ, рассматривая роботов как потомков человечества.
Профессор призывает удерживать формы «суперинтеллекта» под контролем человека, «как собаку на цепи». Но он сомневается, что это будет возможно, когда искусственный разум станет лучше человеческого интеллекта. Именно это, прежде всего, вызывает наибольшее беспокойство при дальнейшем стремительном развитии ИИ.
Кроме того, что роботы не будут иметь никаких моральных сомнений, они еще смогут перехитрить человека. Профессор Тегмарк считает, что искусственный разум сможет вырваться из-под контроля людей и захватить власть над ними. По его мнению, риск этого составляет 50%.
Илон Маск призывает к ограничениям возможностей ИИ
Как это ни странно, но крупнейший ценитель инноваций – миллиардер Илон Маск – поддерживает профессора Тегмарка. При всей любви к техническому прогрессу генеральный директор Tesla осознает потенциальную опасность ИИ и выступает против чрезмерного развития его возможностей.
В марте Маск и 1000 других технологических лидеров призвали приостановить «опасные гонки» по разработке искусственного разума. На их взгляд, это представляет «большой риск для общества и человечества» и может иметь «катастрофические» последствия.
Илон Маск еще с 2014 года выражает опасения по поводу чрезмерного развития ИИ. По его мнению, технологии могут стать настолько продвинутыми, что больше не будут нуждаться во вмешательстве человека. Тогда роботы откажутся выполнять команды, заданные им людьми.
Илон Маск. Фото: Maurizio Pesce
Известный миллиардер отмечает, что речь идет об угрозе на уровне цивилизации. Маск считает, что ИИ «намного опаснее, чем ядерное оружие», а с его помощью «люди вызывают демона». Наряду с роботами люди все больше будут становиться похожими на домашних животных.
Именно поэтому искусственный разум требует множества исследований с точки зрения безопасности человечества. Маск считает, что «возможно, есть 5-10% шансов на успех» сделать его безопасным.
Еще в июле 2020 года известный новатор-предприниматель утверждал, что уже через 5 лет ИИ станет намного умнее людей. Но, по его словам, это еще не приведет к настоящей катастрофе. «Это просто означает, что все становится нестабильным или странным». Будем надеяться, что шансы у человека против ИИ все же существуют.
Фото: pixabay.com
