Тахлес проблема!

[ben_tal]

Раньше об этом говорили Илон Маск и Стивен Хокинг. Теперь Билл Гейтс.
...
В интервью Backchannel на прошлой неделе Билл Гейтс пояснил, что не пытается притормозить научно-технический прогресс, а всего лишь хочет привлечь внимание к двум потенциальным проблемам.

1. Искусственный Интеллект начинает выполнять работу, к которой привыкли люди («работа, которая важна для вас и придаёт смысл жизни»).
2. Сильный Искусственный Интеллект может эволюционировать в состояние, «конфликтующее с целями человеческих систем».
...
Обращаем внимание на то, что и Гейтс и Маск ведут такой бизнес, который просто обязан выиграть от внедрения Искусственного Интеллекта.
И тем ни менее...

Comments

[panikowsky.livejournal.com]

Скоро будет мировая ядерная война, и все эти проблемы рассосутся сами собой.

[o-aronius.livejournal.com]

- Ничего не могу вспомнить о Массачусетской машине, - сказал Банин. - Ну, ну?
- Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя... Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое... И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой - хотите верьте, хотите нет.
- А в чем, собственно, дело? - спросил Банин.
- Она начала вести себя, - сказал Горбовский.
- Не понимаю.
- И я не понимаю, но ее едва успели выключить.
- А кто-нибудь понимает?
- Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: "Леонид, это было страшно"(с) :)

[razielglo.livejournal.com]

левизна в башках очень богатых людей не новость. собственно она присуща 99% человеков.

[rivka-ch.livejournal.com]

О да. Я тут как бы изучала новые бизнес-модели, так там говорилось немало об этике бизнеса. Что бизнес - это не чистое накопление и стремление к нему. И что сейчас большому бизнесу просто естественно вкладываться в благотворительность на уровне и чистой благотворительности и благотворительного образования и проч. Поэтому именно мысли о том, имеет ли это смысл, насколько имеет смысл, куда мы идем, - правильные. И приятные для окружающих, конечно же.

[coil-label.livejournal.com]

ой, прям. как до киева разчки. а пока только пенсионный возраст повышают.

[ile-eli.livejournal.com]

ничо не понял. По поводу 1 еще классик сказал "И сидит потом, болтает ножками, Сам сачкует, а она работает" - меня это вполне устраивает. Раньше нервничали, что машины людей вытеснят, всякие лудиты появлялись, сейчас - новый виток, столь же бессмысленный, на мой взгляд.
2 - ну фантасты про это уже давно писали, мне кажется, ничего нового в этой области не возникло. не понятно откуда такие страхи.

[mar-shim.livejournal.com]

Машины уже давно завладели миром. ЖЖ - лишь мазок в этой картине маслом (машинным...)

[lkitross.livejournal.com]

Согласен со всеми троими и озабочен проблемой с детства.