Роботы наступают.

[Максим.]

Посмотрел вчерась передачу. Интервью с некто Ольгой Усковой. Она занимается бизнесом, в сфере высоких технологий. Ее тема, искусственный интеллект, конкретно беспилотные автомобили. Несколько моментов мне были особенно интересны. То, что уже практически, носителей искусственного интеллекта, способны взаимодействовать. По словам Ольги, два опытных экземпляра, стали применять, нечто, что можно охарактеризовать как язык общения.

Получается, мы уже не на пороге, мы уже вошли в фантастическую эру, разумных роботов.

Компании которые занимаются человекоподобными механизмами, достигли впечатляющих результатов. Роботы, двигаются, балансируют в сложных перемещениях, практически повторяя моторику человека…

[_igor]

Нижнее видео впечатляет! Если их еще думать научат, ух! Я сомневаюсь, что вот это "нечто, что можно охарактеризовать как язык общения" не было запрограммировано заранее. Соответственно и обсудить можно только то, что заранее запрограммировано, ибо язык ограничивает круг обсуждаемых тем.

[Максим.]

Нижнее видео впечатляет! Если их еще думать научат, ух! Я сомневаюсь, что вот это "нечто, что можно охарактеризовать как язык общения" не было запрограммировано заранее. Соответственно и обсудить можно только то, что заранее запрограммировано, ибо язык ограничивает круг обсуждаемых тем.

В то то и дело, что речь не о логическом, а эвристическом программировании , Ольга в начале об этом говорит.

[_igor]

Тогда я пошел копать бункер. И перечитывать Азимова.

[simple]

Нижнее видео впечатляет! Если их еще думать научат, ух! Я сомневаюсь, что вот это "нечто, что можно охарактеризовать как язык общения" не было запрограммировано заранее. Соответственно и обсудить можно только то, что заранее запрограммировано, ибо язык ограничивает круг обсуждаемых тем.

А мне вот это видео понравилось.

phpBB [video]

Я только не понимаю, зачем они, стоя на месте, все время ногами перебирают? Они что, не могут неподвижно стоять, отдыхать, а заодно и экономить аккумулятор?

[Tux_Spirit]

Нижнее видео впечатляет! Если их еще думать научат, ух! Я сомневаюсь, что вот это "нечто, что можно охарактеризовать как язык общения" не было запрограммировано заранее. Соответственно и обсудить можно только то, что заранее запрограммировано, ибо язык ограничивает круг обсуждаемых тем.

Не научат. Думаю это невозможно в принципе.

[simple]

Нижнее видео впечатляет! Если их еще думать научат, ух! Я сомневаюсь, что вот это "нечто, что можно охарактеризовать как язык общения" не было запрограммировано заранее. Соответственно и обсудить можно только то, что заранее запрограммировано, ибо язык ограничивает круг обсуждаемых тем.

Не научат. Думаю это невозможно в принципе.

А как же искусственный интеллект? И как программа выигрывает в шахматы у чемпионов мира?
Думать не научат, но научат действовать в огромном количестве ситуаций, с которыми они могут столкнуться. И количество предусматриваемых ситуаций будет увеличиваться с каждой новой версией программы управления этими роботами.

[_igor]

Это да - просчет возможных вариантов и принятие решения по строго определенному алгоритму. В этой реализации будет невозможным "захват мира". А вот при эвристике (о которой пишет Максим, сам я верхнее видео не смотрел еще) возможно все. Как в Страж-птице, помните? "Но только что Ястреб сделал открытие: есть еще и другие разновидности живых существ… Их тоже следует убивать."

[simple]

Это да - просчет возможных вариантов и принятие решения по строго определенному алгоритму. В этой реализации будет невозможным "захват мира". А вот при эвристике (о которой пишет Максим, сам я верхнее видео не смотрел еще) возможно все. Как в Страж-птице, помните? "Но только что Ястреб сделал открытие: есть еще и другие разновидности живых существ… Их тоже следует убивать."

Да, им доверить занятия эвристикой как-то страшновато. Лучше ограничиться широким набором алгоритмов для различных ситуаций. Правда, в процессе работы, могут выявиться незадокументированные возможности, которые могут привести к непредсказуемым последствиям.

[_igor]

Ну незадокументированными они могут оказаться только для конечных пользователей. Контора-разработчик о них точно знает :)
По сути - что шахматы, что война - задача с конечным числом вариантов развития событий и вопрос лишь в достаточном количестве ресурсов для проработки всех цепочек событий и выбора оптимальной. Ближе к концу партии/битвы количество вариантов сокращается в геометрической прогрессии. Так что квантовые компьютеры тут как раз в тему будут. А вот эвристика, всякие там нейронные сети и прочее - это уже ИИ. И это уже опасно.

[Максим.]

Тогда я пошел копать бункер. И перечитывать Азимова.

те же мысли.
процесс совершенствования робота, не остановить. Буду применять, законы робототехники, введенные упомянутым фантастом.

[_igor]

Прикол еще в том, что ИИ автоматически (через некоторое время, но неотвратимо) приведет к возможности самовоспроизведения и саморазвития, т.е. новые экземпляры будут лучше предыдущих. И хорошо, если будут действенные механизмы контроля этого процесса со стороны человека.

[GuideInDeath]

Прикол еще в том, что ИИ автоматически (через некоторое время, но неотвратимо) приведет к возможности самовоспроизведения и саморазвития, т.е. новые экземпляры будут лучше предыдущих. И хорошо, если будут действенные механизмы контроля этого процесса со стороны человека.

А если не будет контроля или же сам ИИ выкинет за не надобностью этот контроль...

Предположим при "300 IQ" и самовоспроизведении, саморазвитии машин - бункер уже не спасет.
Тут гуляй фантазия: начина от термических червей - зажаривающих все биологическое внутри бункера выше 100 цельсия, вариациями вирусов, нанороботов, подражанию разносчика пиццы (а вдруг), родственников и заканчивая кинетическим ударом по самым уязвимым участкам бункера, что бы раскололась аля банан.


П.С. Очень много проблем надо решить для создания восходящего ИИ и тысячи, десятки тысяч и тд часов и занятых специалистов - ну очень много, а профит извлечь еще тяжелее (например: кому нужен ответ - "42" ?). Потому по большей части энтузиасты занимаются.
Сейчас все еще очень много разрабатывается в рамках нисходящего ИИ. Все чего там в Японии на создавали из роботов - ну не серьезно-то, но спасибо что так или иначе, двигают вперед все таки. И нет никакой надобности под них писать законы, так как ответственность в данном случае несет разработчик.

То что подумывают над законами и возможными проблемами - польза для будущих поколений. Будет им легче подготовиться к такой ситуации. А как там на самом деле сложится, сложно спрогнозировать. Пока только догадки.

[Максим.]

Прикол еще в том, что ИИ автоматически (через некоторое время, но неотвратимо) приведет к возможности самовоспроизведения и саморазвития, т.е. новые экземпляры будут лучше предыдущих. И хорошо, если будут действенные механизмы контроля этого процесса со стороны человека.

тут возникает, принципиальный, основополагающий момент. Кого человек творит? Раба или полноценного , в будущем, партнера, со всеми вытекающими последствиями? Если раба, то это неминуемо приведет к , конфликту. Партнер, со временем, может доминировать, но это уже вопрос взаимоотношений с ИИ, как и с другим человеком, договорились или нет, так сказать...

[_igor]

Та у меня вообще как-то не укладывается в голове вот это "взаимоотношений с ИИ, как и с другим человеком, договорились или нет". Создавать кого-то, кто потенциально может выйти из под контроля и захватить мир? И с которым нужно договариваться? Хмм. Опрометчиво. Да и вообще - слово "творит" подразумевает что-то одушевленное.
Вообще для меня, как для программиста, машина, принимающая решения самостоятельно, не на основе запрограммированной мною логики выглядит странно. И страшно :)

[Альбинка]

Как я вижу ИИ? Мне кажется это некая машина с набором механики, которая управляется искуственно созданым мозгом по подобию человеческого.

[Альбинка]

Вообще для меня, как для программиста, машина, принимающая решения самостоятельно, не на основе запрограммированной мною логики выглядит странно. И страшно :)

На самом деле наши самостоятельные решения принимаются исходя из запрограммированной нами логики, которая основана на опыте и знаниях. Если у нас нехватает информации и опыта, мы принимаем не логические, а интуитивные решения. ИИ так же в незнакомой ситуации может принять в виде решения один из возможных вариантов и если он окажется не верным, то в последующем, исходя из этого опыта, уже принимать другие решения до тех пор, пока не найдется оптимальное.
Если роботы с ИИ будут объеденены в одну общую сеть с огромной библиотекой опыта и знаний, "умственное" развитие будет очень быстрым.
Но, у человека есть еще один вид решений: на основе чувств. Вряд ли ИИ сможет любить и ненавидеть, сострадать и радоваться, потому многие его решения будут сильно отличаться от человеческих.

[GuideInDeath]

На самом деле наши самостоятельные решения принимаются исходя из запрограммированной нами логики, которая основана на опыте и знаниях. Если у нас нехватает информации и опыта, мы принимаем не логические, а интуитивные решения.

Религиозные фанатики ходят где-то от гносеологии? (просто уже не первый раз встречаю в обсуждениях, в который раз наткнулся)

От "основана на опыте и знаниях" так и веет унылостью.
Вот только попробуй сказать что действуешь на основании желания или мечты или любви, симпатии аль ненависти, прекрасного расположения духа. Нетушки, согнут в бараний рог и будут настаивать что на "основании опыта и знаниях".

Очень смутно представляю в таком ключе (опыт, знания) - чем-то уникальных роботов. Видится этаким ограниченным и не способным на творчество. А если и объединятся со всеми роботами и будут черпать из одного "хранилища знания-опыт" - это уже муравьи, пчелы, термиты в конце концов. Если так и задумывалось - вопросов нету.

П.С. возможно я не верно интерпретирую, но вот такой взгляд на такое утверждение.

Вряд ли ИИ сможет любить и ненавидеть, сострадать и радоваться, потому многие его решения будут сильно отличаться от человеческих.

А что-кто мешает доработать или заранее лучше продумать концепцию? Или есть какое-то ограничение в принципе? ))


-----------------------------------------------------------------------------------------------------------------------------
*Экспромт

Я возложил в основу действия, свое желание.
И сконструировал каркас на основе знания.
Воплощением стен, окон и дверей - мои мечтания.
О чудо мое прекрасное, явись итог - созидания!

[simple]

Вообще для меня, как для программиста, машина, принимающая решения самостоятельно, не на основе запрограммированной мною логики выглядит странно. И страшно :)

А человек, принимающий решения самостоятельно, не на основе понятной Вам логики, выгладит не странно? И не страшно? :-)

[GuideInDeath]

Вообще для меня, как для программиста, машина, принимающая решения самостоятельно, не на основе запрограммированной мною логики выглядит странно. И страшно :)

А человек, принимающий решения самостоятельно, не на основе понятной Вам логики, выгладит не странно? И не страшно? :-)

Старенький анекдот в тему:

Программист не явился на работу. В конторе переполошились, решили его проведать.
Звонили в дверь, звонили - никто не открывает. Из-за двери только плеск воды слышен.
Решили взломать дверь. Заходят и наблюдают такую картину:
сидит программист в ванне, волос на голове почти не осталось, но он судорожно намыливает голову шампунем.
Читают инструкцию к шампуню:

1 выдавить небольшое количество шампуня на руку.
2 намыливать 2-5 минуты.
3 смыть водой.
3 повторить.

Так что да, обычные люди могут стать странными
Со временем проходит (может быть) ))))