Тахлес проблема!

[ben_tal]

Раньше об этом говорили Илон Маск и Стивен Хокинг. Теперь Билл Гейтс.
...
В интервью Backchannel на прошлой неделе Билл Гейтс пояснил, что не пытается притормозить научно-технический прогресс, а всего лишь хочет привлечь внимание к двум потенциальным проблемам.

1. Искусственный Интеллект начинает выполнять работу, к которой привыкли люди («работа, которая важна для вас и придаёт смысл жизни»).
2. Сильный Искусственный Интеллект может эволюционировать в состояние, «конфликтующее с целями человеческих систем».
...
Обращаем внимание на то, что и Гейтс и Маск ведут такой бизнес, который просто обязан выиграть от внедрения Искусственного Интеллекта.
И тем ни менее...

Comments

[panikowsky.livejournal.com]

Скоро будет мировая ядерная война, и все эти проблемы рассосутся сами собой.

[o-aronius.livejournal.com]

- Ничего не могу вспомнить о Массачусетской машине, - сказал Банин. - Ну, ну?
- Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя... Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое... И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой - хотите верьте, хотите нет.
- А в чем, собственно, дело? - спросил Банин.
- Она начала вести себя, - сказал Горбовский.
- Не понимаю.
- И я не понимаю, но ее едва успели выключить.
- А кто-нибудь понимает?
- Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: "Леонид, это было страшно"(с) :)

[nechaman]

А что, ЖЖ и ФБ давно уже ведут себя каждый в соответствии с характером. Нравится это нам или нет. Выключать поздно.

[razielglo.livejournal.com]

левизна в башках очень богатых людей не новость. собственно она присуща 99% человеков.

[rivka-ch.livejournal.com]

О да. Я тут как бы изучала новые бизнес-модели, так там говорилось немало об этике бизнеса. Что бизнес - это не чистое накопление и стремление к нему. И что сейчас большому бизнесу просто естественно вкладываться в благотворительность на уровне и чистой благотворительности и благотворительного образования и проч. Поэтому именно мысли о том, имеет ли это смысл, насколько имеет смысл, куда мы идем, - правильные. И приятные для окружающих, конечно же.

[coil-label.livejournal.com]

ой, прям. как до киева разчки. а пока только пенсионный возраст повышают.

[ben-tal.livejournal.com]

красиво, но к делу отношения не имеет.
тут правильнее сравнивать с цепной реакцией.
запустить то ты её запустишь, а вот остановить...
Т.е. они вполне обоснованно, имхо, опасаются этакого
Чернобыля или Фукусимы.
Заметь это разные случаи! В Чернобыле была ошибка персонала, типичное русское распиздяйство. А вот в Фукусиме от человеков уже не зависимо...

В общем о технике безопасности лучше думать ДО чернобыля, а не после.

[ben-tal.livejournal.com]

несмешно!

[panikowsky.livejournal.com]

Абсолютно согласен. Несмешно.

[ben-tal.livejournal.com]

1. Стивен Хокинг не бизнесмен.
2. это НЕ благотворительность и к ней НИКАКОГО отношения не имеет. это опасение за свою жизнь в том числе...
3. а что и где Вы учите?

[ben-tal.livejournal.com]

каюсь, но коммента не понял!
а эти суки пенсионный возраст повышают...

[rivka-ch.livejournal.com]

3. coursera.com
New Models of Business in Society.

[ben-tal.livejournal.com]

Вам надо менять фамилию! Например на Веселовский :-)

[ben-tal.livejournal.com]

а... да, там интересные курсы бывают.

[ile-eli.livejournal.com]

ничо не понял. По поводу 1 еще классик сказал "И сидит потом, болтает ножками, Сам сачкует, а она работает" - меня это вполне устраивает. Раньше нервничали, что машины людей вытеснят, всякие лудиты появлялись, сейчас - новый виток, столь же бессмысленный, на мой взгляд.
2 - ну фантасты про это уже давно писали, мне кажется, ничего нового в этой области не возникло. не понятно откуда такие страхи.

[mar-shim.livejournal.com]

Машины уже давно завладели миром. ЖЖ - лишь мазок в этой картине маслом (машинным...)

[lkitross.livejournal.com]

Согласен со всеми троими и озабочен проблемой с детства.

[ben-tal.livejournal.com]

:-)