Роботы наступают.

[_igor]

Не знакомы с этим типом игр? Там большая карта, на ней можно разместить до 8 игроков (в том числе компьютерных). На этапе настройки карты игроков можно объединять в команды. Игровой процесс выглядит как постройка своей военной базы, добыча ресурсов и т.д., а в итоге - построение армии из разной техники (пехота, танки, самолеты и т.д.) и уничтожение баз всех соперников. Он делает себя и еще двух игроков в одной команде, а еще троих - в другой. И в итоге компьютерные игроки из его команды самостоятельно воюют с компьютерными же игроками из другой команды.

[simple]

Не знакомы с этим типом игр? Там большая карта, на ней можно разместить до 8 игроков (в том числе компьютерных). На этапе настройки карты игроков можно объединять в команды. Игровой процесс выглядит как постройка своей военной базы, добыча ресурсов и т.д., а в итоге - построение армии из разной техники (пехота, танки, самолеты и т.д.) и уничтожение баз всех соперников. Он делает себя и еще двух игроков в одной команде, а еще троих - в другой. И в итоге компьютерные игроки из его команды самостоятельно воюют с компьютерными же игроками из другой команды.

Да, я с этой игрой не знаком, ну только понаслышке что-то. Мне интересно узнать, а задачу воевать он им ставит? Или они сами воевать начинают? И знает ли он результат сражения?

[_igor]

Сами, он лишь настраивает кто с кем в альянсе. Результат знает, но лишь потому, что тоже играет. В теории можно выключить монитор.

[simple]

Сами, он лишь настраивает кто с кем в альянсе. Результат знает, но лишь потому, что тоже играет. В теории можно выключить монитор.

Понял, спасибо :)

[ЗАЗ]

Ну как незачем - к примеру, вы создали всемогущего робота, который любой ценой должен победить - уничтожить соперника и все, что мешает ему добиться этой цели. А потом заключаете перемирие с этим соперником. Как остановить робота? Не решит ли он, что вы, как останавливающий его, тоже должны быть уничтожены?

Я когда буду писать программу, то я предусмотрю как аварийно остановить или поставить на паузу выполнение задачи. Это основа управления любым механизмом.
Я как владелец робота всегда смогу это сделать. Если он сломался, то это дефект и брак моей работы и форс мажор, тогда вступит в силу запасной вариант "Б"-предусматривающий самоуничтожение.
И только в одном случае робот будет мне сопротивляться, своему хозяину, если он самостоятельно изменит программу и заблокирует мне доступ, а так же отключит систему самоуничтожения. Но для этого ему нужна эмоция. Он должен приследовать определённую цель, получить выгоду, основываясь на собственных взглядах на жизнь перераспределить задачи и обновить их. Это механизму недоступно. Он не сможет сам себя перепрограмировать, потому, что математика не имеет эмоций.
Вот биоробот-это другое дело. Биологический супермозг-это да, возможно всё.

[_igor]

А инициация самоуничтожения - это не попытка помешать выполнению основной задачи? Не нужно ли уничтожить того, кто пытается поставить меня на паузу?

[ЗАЗ]

А инициация самоуничтожения - это не попытка помешать выполнению основной задачи? Не нужно ли уничтожить того, кто пытается поставить меня на паузу?

Робот в этом случае не имеет возможности мне помешать. Если я им управляю дистанционно, контролирую его системы жизнеобеспечения, навигацию и оружие, то очевидно что первое о чём я подумаю, это о полном контроле над механизмом. Причем три или четыре дублирующих аварийных варианта должно быть, плюс защита от стороннего взлома. Повторю, помешать он мне может, если руководствуясь своими эмоциями самостоятельно перепишет программу. Это невозможно.
Если связь прервется, то автоматически активируется система отключения питания или паузы, если последует попытка захвата объекта противником, инициируется система самоуничтожения. но все эти варианты предусмотрит производитель. Сама система не сможет придумать третий вариант, отличный от заложенных алгоритмов.

[simple]

А инициация самоуничтожения - это не попытка помешать выполнению основной задачи? Не нужно ли уничтожить того, кто пытается поставить меня на паузу?

Робот в этом случае не имеет возможности мне помешать. Если я им управляю дистанционно, контролирую его системы жизнеобеспечения, навигацию и оружие, то очевидно что первое о чём я подумаю, это о полном контроле над механизмом. Причем три или четыре дублирующих аварийных варианта должно быть, плюс защита от стороннего взлома. Повторю, помешать он мне может, если руководствуясь своими эмоциями самостоятельно перепишет программу. Это невозможно.
Если связь прервется, то автоматически активируется система отключения питания или паузы, если последует попытка захвата объекта противником, инициируется система самоуничтожения. но все эти варианты предусмотрит производитель. Сама система не сможет придумать третий вариант, отличный от заложенных алгоритмов.

Вы не можете предусмотреть возможность случайного сбоя программы, в результате которого программа обойдет тот участок программы, который играет роль защитного механизма. Ну, например, из-за сбоя памяти, в который записана программа, вместо "не равно", потеряется частичка "не" и программа начнет делать совсем не то, что предполагал ее создатель.

[ЗАЗ]

Вы не можете предусмотреть возможность случайного сбоя программы, в результате которого программа обойдет тот участок программы, который играет роль защитного механизма. Ну, например, из-за сбоя памяти, в который записана программа, вместо "не равно", потеряется частичка "не" и программа начнет делать совсем не то, что предполагал ее создатель.

Ну я ж написал, должно быть несколько контуров защиты и блокировок. Если программа вылетит из за дефекта памяти или ещё какого железа, то это не проявление искусственного интеллекта-это просто поломка, которая в итоге разрушит или остановит весь механизм.

[simple]

Вы не можете предусмотреть возможность случайного сбоя программы, в результате которого программа обойдет тот участок программы, который играет роль защитного механизма. Ну, например, из-за сбоя памяти, в который записана программа, вместо "не равно", потеряется частичка "не" и программа начнет делать совсем не то, что предполагал ее создатель.

Ну я ж написал, должно быть несколько контуров защиты и блокировок. Если программа вылетит из за дефекта памяти или ещё какого железа, то это не проявление искусственного интеллекта-это просто поломка, которая в итоге разрушит или остановит весь механизм.

Эта поломка может в итоге не разрушить или остановить механизм, а навредить человеку. Робот с поврежденной памятью может даже травмировать человека. Конечно, вероятность этого очень мала, но какая была вероятность того, что на земле из чего-то зародится жизнь и появится человек?

[_igor]

А инициация самоуничтожения - это не попытка помешать выполнению основной задачи? Не нужно ли уничтожить того, кто пытается поставить меня на паузу?

Робот в этом случае не имеет возможности мне помешать. Если я им управляю дистанционно, контролирую его системы жизнеобеспечения, навигацию и оружие, то очевидно что первое о чём я подумаю, это о полном контроле над механизмом. Причем три или четыре дублирующих аварийных варианта должно быть, плюс защита от стороннего взлома. Повторю, помешать он мне может, если руководствуясь своими эмоциями самостоятельно перепишет программу. Это невозможно.
Если связь прервется, то автоматически активируется система отключения питания или паузы, если последует попытка захвата объекта противником, инициируется система самоуничтожения. но все эти варианты предусмотрит производитель. Сама система не сможет придумать третий вариант, отличный от заложенных алгоритмов.

С точки зрения прямолинейного алгоритма и одного робота Вы правы. Но всегда есть варианты и именно эмоции робота тут не при чем. К примеру, сейчас активно используют нейронные сети (это еще не ИИ, но близко) - если коротко, то это анализ большого массива действий и результата. Причем действие может не иметь формальной связи с результатом. Так вот, если из 100000 роботов у 1000 выйдет из строя (или будет отключена) система самоуничтожения (или связь с центром, или еще что-то) и в этой 1000 достижимость основной задачи (уничтожение противника) будет выше, то остальные 99000 роботов отключат свои системы тем или иным способом. И таких вариантов множество, с чего и началась тема. Все их программист предусмотреть обязан, но сможет ли? Не факт. К примеру, авиакатастрофы расследуют так тщательно, потому что иногда находят в результате такие стечения обстоятельств, при которых все алгоритмы оказываются неэффективны и самолет падает. Типа при мойке самолета вода попала в какой-то датчик и на определенной высоте он начал врать, а при этом другой датчик натерли маслом и он тоже начал врать и в результате автопилот решил выключить двигатель (условно)

[ЗАЗ]

С точки зрения прямолинейного алгоритма и одного робота Вы правы. Но всегда есть варианты и именно эмоции робота тут не при чем. К примеру, сейчас активно используют нейронные сети (это еще не ИИ, но близко) - если коротко, то это анализ большого массива действий и результата. Причем действие может не иметь формальной связи с результатом. Так вот, если из 100000 роботов у 1000 выйдет из строя (или будет отключена) система самоуничтожения (или связь с центром, или еще что-то) и в этой 1000 достижимость основной задачи (уничтожение противника) будет выше, то остальные 99000 роботов отключат свои системы тем или иным способом. И таких вариантов множество, с чего и началась тема. Все их программист предусмотреть обязан, но сможет ли? Не факт. К примеру, авиакатастрофы расследуют так тщательно, потому что иногда находят в результате такие стечения обстоятельств, при которых все алгоритмы оказываются неэффективны и самолет падает. Типа при мойке самолета вода попала в какой-то датчик и на определенной высоте он начал врать, а при этом другой датчик натерли маслом и он тоже начал врать и в результате автопилот решил выключить двигатель (условно)

Тема началась с того, что роботы в один из дней начнут жить своей жизнью и нападут на человечество. Я против такой версии, аргументирую тем, что робот не может самостоятельно внести изменения в программу. Вы приводите мне аргумент что может что то сломаться. Может. Но это не наш вариант с обдуманным неповиновением и обдуманной же атакой на человечество. Конечно может случиться сбой и пломка, кто ж спорит. При мне на "Коммунаре " в 1990 году простейший робот сварной поехал не по той траектории и покалечил проходящего мимо человека. Это аварийная ситуация, но не самостоятельные и обдуманные действия робота. В этом разница.

[simple]

При мне на "Коммунаре " в 1990 году простейший робот сварной поехал не по той траектории и покалечил проходящего мимо человека. Это аварийная ситуация, но не самостоятельные и обдуманные действия робота. В этом разница.

А какая разница для пострадавшего человека, это была аварийная ситуация или обдуманные действия робота? Ведь и аварийная ситуация может быть не единичным случаем, если роботов будет много.

[ЗАЗ]

При мне на "Коммунаре " в 1990 году простейший робот сварной поехал не по той траектории и покалечил проходящего мимо человека. Это аварийная ситуация, но не самостоятельные и обдуманные действия робота. В этом разница.

А какая разница для пострадавшего человека, это была аварийная ситуация или обдуманные действия робота? Ведь и аварийная ситуация может быть не единичным случаем, если роботов будет много.

Для пострадавшего разницы нет. Разница есть для нас с вами в рамках этого обсуждения. Обдуманные действия искусственного интеллекта или просто поломка.

[simple]

При мне на "Коммунаре " в 1990 году простейший робот сварной поехал не по той траектории и покалечил проходящего мимо человека. Это аварийная ситуация, но не самостоятельные и обдуманные действия робота. В этом разница.

А какая разница для пострадавшего человека, это была аварийная ситуация или обдуманные действия робота? Ведь и аварийная ситуация может быть не единичным случаем, если роботов будет много.

Для пострадавшего разницы нет. Разница есть для нас с вами в рамках этого обсуждения. Обдуманные действия искусственного интеллекта или просто поломка.

Я думаю, что вредоносные обдуманные действия искусственного интеллекта могут возникнуть именно в результате какого-то сбоя или поломки.

[ЗАЗ]

Я думаю, что вредоносные обдуманные действия искусственного интеллекта могут возникнуть именно в результате какого-то сбоя или поломки.

Я так не думаю. Именно наука математика не даёт мне права думать иначе. И физика.

[simple]

Я думаю, что вредоносные обдуманные действия искусственного интеллекта могут возникнуть именно в результате какого-то сбоя или поломки.

Я так не думаю. Именно наука математика не даёт мне права думать иначе. И физика.

Вы считаете, что не может быть, чтобы в результате сбоя программы робот начал делать не то, что должен был делать согласно первоначально заложенной программы?

[ЗАЗ]

Я думаю, что вредоносные обдуманные действия искусственного интеллекта могут возникнуть именно в результате какого-то сбоя или поломки.

Я так не думаю. Именно наука математика не даёт мне права думать иначе. И физика.

Вы считаете, что не может быть, чтобы в результате сбоя программы робот начал делать не то, что должен был делать согласно первоначально заложенной программы?

Может. Но он это будет неосмысленно, а хаотично. Свой привычный режим работы он сменит в результате ЧП, а не в результате обдуманных собственным интеллектом действий.

[simple]

Я так не думаю. Именно наука математика не даёт мне права думать иначе. И физика.

Вы считаете, что не может быть, чтобы в результате сбоя программы робот начал делать не то, что должен был делать согласно первоначально заложенной программы?

Может. Но он это будет неосмысленно, а хаотично. Свой привычный режим работы он сменит в результате ЧП, а не в результате обдуманных собственным интеллектом действий.

Конечно, он сменит свой привычный ритм в результате ЧП, но в результате, программа может измениться так, что он будет производить деструктивные действия, считая, что он все делает правильно. Как сумасшедший маньяк, который все ломает, считая, что он все делает правильно.

[ЗАЗ]

Конечно, он сменит свой привычный ритм в результате ЧП, но в результате, программа может измениться так, что он будет производить деструктивные действия, считая, что он все делает правильно. Как сумасшедший маньяк, который все ломает, считая, что он все делает правильно.

Механизм не может делать выводы и понимать где правильно, а где нет. Он будет работать либо по своей программе, либо по программе, которая имеет битые сектора. И будет тупо следовать системе повторяющихся символов. Это чисто математически. Тут нет места мыслительному процессу в человеческом понимании.
Потому, что все действия механизма четко ограничены размерами и объёмами программы, процессора, памяти и т.д. И описаны все действия математическими формулами.