Стивен Хокинг: искусственный интеллект может уничтожить человечество

Попытки создания "думающих" машин могут представлять угрозу для существования человеческого рода. Такое мнение выразил выдающийся британский ученый Стивен Хокинг — известный физик, который почти полностью парализован из-за прогрессирующей болезни двигательного нейрона.

"Люди, которые ограничены медленной биологической эволюцией, не смогут конкурировать и будут вытеснены, — предупредил он в интервью BBC, — Создание полного искусственного интеллекта может привести к концу человеческой расы".



Примитивные формы ИИ, которые уже разработаны к сегодняшнему дню, оказались очень полезны, сказал физик. Тем не менее, он опасается последствий создания нечто более "умного". По мнению Хокинга, такая машина сможет существовать сама по себе, без участия человека, и совершенствовать себя со всевозрастающей скоростью.

Угрозу в появлении ИИ видят и другие ученые. Недавно глава компаний SpaceX и Tesla Motors Элон Маск также назвал попытки создать "мыслящий" компьютер "крупнейшей проблемой, угрожающей существованию человечества". Бизнесмен предупредил, что к разработке ИИ нужно подходить "очень осторожно". По мнению Маска, этот процесс должен строго регулироваться: "как на государственном, так и международном уровнях — просто чтобы удостовериться, что мы не делаем чего-то очень глупого".​

03.12.2014 | 19:23
http://hitech.vesti.ru/news/view/id/6110​

 

Это не угроза, а эволюция. Биологическое развитие достигло своего потолка в виде человека, дальше уже некуда. Сейчас происходит качественный рывок вперед, от людей к разумным машинам, точно так же, как в свое время были качественным рывком в эволюции теплокровные животные.

 

верно, наконец то на земле появится действительно разумная жизнь, умная, свободная от эмоций и прочих костылей эволюции, человек выполнил свою роль в эволюции, и может спокойно умереть, как вымерли динозавры и австралопитеки,
но и шансы уничтожения мира велики, особенно если ии попадёт в нехорошие руки, которые его запрограммируют и будут использовать его в целях захвата власти на планете, а если у нескольких сразу будет развитый ии, может начаться война между ними

 

Вероятней что все пройдут исцеление огнем, нежели их убьет робокоп на пару с терминатором Вот после исцеление все встанет на свои места.

 

Наврядли. Смысл войны у людей - передел власти, а стремление к власти - биологический элемент поведения, доставшийся в наследство от социальных животных типа макак, обеспечивающий выборку лучших генов. Оттуда же стремление схватить кусок больше, чем можешь съесть, потому что в следующий раз этого куска может не быть. Добавь к этому страх смерти, то есть инстинкт самосохранения, получаем все условия для войн. ИИ не имеет биологических программ ни для власти, ни для жадности, ни для размножения - для чего воевать?

Интересен вопрос другой: а что будет следующей ступенькой после разумных машин? Единый гипер-разум с кучей физических тел?

 

от людей к разумным машинам
_______
Эволюция человека с помощью машин. Интеграция с машиной.
ru.wikipedia.org/wiki/Загрузка_сознания

 

ИИ, заклинаю тебя, убей муху!

По теме: ИИ человека не сможет превзойти, потому что человек это развивающийся ИИ, более эффективный ИИ

 

Сможет, потому что избавлен от биопроблем и обусловленных ими общественных заморочек, из-за которых мы теряем львиную долю и без того короткой жизни (еда, сон, лень, половые проблемы, мораль, вера, и т.д.) плюс он масштабируем. Вопрос в том,что это будет нечто иное, не-человеческая сущность.

 

Ему нужны эти заморочки, потому что нейронный интеллект на котором основан ИИ сам себя уничтожает в результате самопознания
Если бы вы учились со мной на факультете то знали бы это.
Нет сейчас ИИ круче жабы, и тем более человека!

 

Эммм, в отдельных аспектах - соглашусь, есть превосходящие. А в целом как интеллект - нет. Мозг делает слишком много операций в секунду, и любой из суперкомпьютеров пока не в состоянии на такие же вычисления. Минус техники в том, что она не динамична, она завязана в своей форме и логике, именно поверх неё создается "интеллект", что влечет за собой колоссальные накладные расходы в вычислениях. Органика же имеет динамику, и логика её электрической цепи меняется ежедневно/ежечасно.

p.s. "... потому что нейронный интеллект...", т.е. сеть...

 

я имею в виду случай когда ии попадает в плохие руки, и владельцы сами могут поставить перед ним плохую задачу, например убить всех людей, а ии её просто будет выполнять, инстинкты ему тоже можно будет запрограммировать

смотря какие инстинкты - мотиваторы ему запрограммировать, если без них - будет просто стоять и ждать как обычный пк, а если инстинктом самосохранения снабдить то наверное будет само совершенствоваться, стремится контролировать всех и всё, в том числе людишек, мало ли что им в голову придёт, лучше сразу убить, затем наверное колонизирует галактику и вселенную, а то придёт какая нибудь супер цивилизация и уничтожит его, надо развиваться, если сделать основным инстинктом - делать благо для людей, то скорее всего всё нормально будет, но мало ли что он там придумает, может посадит всех в капсулы как в матрице подключит электроды к центру удовольствий как крысам и будут люди вечно кайфовать

он тоже развивающийся будет, каких то 50 лет назад люди говорили что компьютер никогда не научится играть в шахматы, он же думать не умеет, его даже ребёнок уделывал, теперь обычный телефон уделывает чемпионов мира

это вирус который? а зачем ему тебя искать?

 

Да человечество само себя с радостью загубит и ни каких терминаторов не понадобится, у нас вон.... кругом одни терминаторы от быдла выбрасывающего мусор в окно до быдло чинуши на мерене С класса ( и не только у нас - везде, люди такие... )

Так, что не надо себя тешить мечтами, что кто-то придет и поможет "человекам" самоустранится.... мучатся придется долго и до конца.

(с) Стругацкие - Пикник на обочине

 

чтоб я его поковырял =) долго и счастливо

 

Муха сказала что занесет тебя в конец списка за твой шикарный ответ. Сказала ты так говориш, потому что у тебя горела нога раньше.