Мобильная версия
Войти

Воздушный бой: люди против самообучаемых роботов

 ↓ ВНИЗ

12

Алик-1
Старожил форума
15.02.2019 13:07
2Немецкий Русский
Интересно, а режет кому-то слух слово «самообучаемый» из заголовка ветки?
---
Был НФ-рассказ из серии прогрессивной фантастики. Злобные капиталисты сделали компьютер и стали ставить его на ракету, на истребитель, на авианосец... чтобы компьютер самообучился, вобрал в себя опыт применения всего оружия. Потом хотели его клонировать и создать непобедимую армию. Но компьютер вместо этого, что понял, что воевать глупо и заразился пацифизмом. А следом за ним оказались пацифистами остальные клонированные компьютеры.
kwahamot
Старожил форума
15.02.2019 14:01
Такой фантастики море, начиная, наверное от Айзека Азимова и до... Мне вспоминается древний фильм W.O.P.R, где ребенок - хакер случайно проник в сеть Пентагона и запустил глобальную термоядерную войну, думая что это игра. А в конце фильма он же заставил компьютер играть сам с собой в крестики-нолики, ИИ понял что у игр не всегда есть победитель, пересчитал войну, понял, что не победит и прекратил ее.
Компьютер, который вдруг стал умным и (или) гуманным тоже в куче книг и фильмов описывается - навскидку Хайнлайн "Луна жестко стелет" или "короткое замыкание" 1986 года...

Я уж про банального Терминатора с его SkyNet не говорю...

Только вот, реальность обычно совсем не такая, как ее фантасты представляют.
Немецкий Русский
Старожил форума
15.02.2019 14:14
А ещё мнения?
Немецкий Русский
Старожил форума
15.02.2019 14:25
Я прошу прощения, что беспокою ветку.
Мой вопрос, он с подвохом, скорее не-ф-темный, грамматический, но радостно, что ветка дышит.
kwahamot, Вы так просто представили работу нейронной сети, я в своё время вникал, вникал, понял, что там очень много, и очень по разному.
Подсветите что-нибудь ещё, у Вас хорошо получается.

А мой вопрос остался на прошлой странице, поэтому повторюсь:
Интересно, а режет кому-то слух слово «самообучаемый» из заголовка ветки?
neustaf
Старожил форума
15.02.2019 15:31
kwahamot
Что то вы куда-то утекаете... При чем здесь аварийные генераторы и мегаватты? Мы же вроде как, про роботов...
Циркуляционные насосы тут не причем - они внутри реактора воду гоняют и не могут его охлаждать.
Землетрясение и цунами произошли 11 марта. Первый взрыв водорода произошел 12 марта - где тут двое суток?
До взрывов водорода и расплавления активных зон там люди работали, можно было и без роботов обходиться. Только какой смысл смотреть на реактор снаружи? Какую информацию вам это даст?
Да и, до взрыва водорода информация была.

В общем, лучше расскажите о специализированных роботах Росатома, способных забраться в контайнмент ВВЭР и собрать информацию.
С удовольствием почитаю, без шуток.



вы считаете, что японские роботы отработали на Фукусиме идеально, особенно в первые три дня, оставайтесь при своем мнении.
Red Faraon
Опытный боец
15.02.2019 20:01
Немецкий Русский
Я прошу прощения, что беспокою ветку.
Мой вопрос, он с подвохом, скорее не-ф-темный, грамматический, но радостно, что ветка дышит.
kwahamot, Вы так просто представили работу нейронной сети, я в своё время вникал, вникал, понял, что там очень много, и очень по разному.
Подсветите что-нибудь ещё, у Вас хорошо получается.

А мой вопрос остался на прошлой странице, поэтому повторюсь:
Интересно, а режет кому-то слух слово «самообучаемый» из заголовка ветки?
а что не так со словом "самообучаемый"?
Это означает что ИИ основанный на нейросети подстраивает веса в узлах сети в зависимости от результата которого он добился.
Если более точно то применительно к теме топика допустим в текущей конфигурации для воздушного боя ИИ смог одержать победу с определёнными характеристиками (остаток топлива, повреждения, остаток боезапаса, жертвы противника, жертвы мирного населения, жертвы своей и дружественной армии, время за которое одержана победа и т д).
Далее перед началом очередного цикла обучения веса узлов немного изменяются (в то же время старые веса кешируются).
Далее происходит очередной раунд воздушного боя (либо его моделирование) и уже его результаты сравниваются с предыдущим раундом.
Если текущие результаты лучше предыдущих новые веса сохраняются, если хуже - восстанавливаются веса предыдущего раунда.
И так до бесконечности.

И кстати результат определяется метрикой в которой участвуют характеристики.
И только человек может задать изначальные данные.
Если с остатком топлива всё ясно - чем его больше тем лучше то дальше уже не всё так однозначно.
Например, какие повреждения более критические а какими можно пренебречь.
Остаток какого вооружения предпочтительнее - дорогого, с большей убойной силой или того которого осталось мало на складе аэродрома.
Ну и совсем мрак начинается с жертвами.
Машина может рассчитать например следующие варианты боя:
а/ Победа, у противника 10 жертв, у своих 1
b/ победа, у противника 100 жертв, у своих 2
с/ победа, у противника 100 жертв, один свой, один мирный
d/ победа, у противника уничтожено 3 машины, 6 убито, у своих 4
А какие варианты боя предпочтительнее (те, на которые будет машина обучаться действовать наиболее эффективно) уже определяется человеком, который пишет метрику
Red Faraon
Опытный боец
15.02.2019 20:04
"Только вот, реальность обычно совсем не такая, как ее фантасты представляют."
Я бы даже сказал наоборот - реальность именно такая какую описывают фантасты.
Просто когда на подходе очередная технология одни произведения служат как пример, другие - наоборот как лучше не делать
Red Faraon
Опытный боец
15.02.2019 20:11
"предполагается ли заблокировать это обучение при переходе к их эксплуатации."

Есть промежуточный вариант - на машину ставятся две копии ИИ - изначально они идентичные, сигналы подаются на обе, управляется машина одной копией, а вторая только обучается. Далее после какого-то времени снимаются параметры со второй копии и отдаются на анализ. И по результатам анализа уже принимается решение нужно ли обновлять и первую копию новыми параметрами.
Таким образом возможно небольшое уменьшение эффективности "среднего" воздушного боя но в то же время более прогнозируемое поведение ИИ в каких-то нештатных ситуациях
KLN-90B
Старожил форума
15.02.2019 20:20
Немецкий Русский
А ещё мнения?
Согласно опубликованному отчету "Вредоносное использование искусственного интеллекта", ИИ вполне может использоваться странами-изгоями, преступниками и террористами.
https://www.bbc.com/russian/fe ...
Позволю себе, в контексте статьи обозначенной ТС статьи и опубликованного отчета не согласится с такой постановкой вопроса об угрозах. И слово "самообучаемый" из заголовка ветки не только не режет слух, но и заставляет размышлять над современными тенденциями ограничения развития ИИ.
На мой взгляд, такая способность ИИ к самообучаемости напрямую связана с неформальным законом " критической массы" в живой и неживой природе. К примеру, в неживой природе этот закон предопределяет предельное количество свободной энергии, которое эта масса способна удержать в себе, сохраняя свою относительную стабильность. Нечто подобное происходит в живой природе, когда один муравей не знает, как строить муравейник, но когда наберется определенное количество муравьёв, тогда они внезапно приступают к его строительству. Всякая автономная система из микродронов будет послушна воле человека до той поры, покуда их "коллективный разум" не посчитает иначе, либо иным способом не получит команду извне.
В более широком смысле, то рано или поздно будет создан ИИ на основе квантового компьютера и на основе "квантовой неопределенности" возникнет угроза преодоления любых барьеров создаваемых человеком в области телекоммуникации путем криптографии. Это означает, что однажды созданный вполне земной супер ИИ на такой технологии получит управление над всеми воздушными механизмами с обратной связью как с элементами ИИ, так и таковых.
Особую угрозу представят тогда беспилотники ударного типа класса "воздух-земля", но еще большую, беспилотники 6-го поколения класса "воздух -воздух", против которых окажутся бесполезными все средства пилотируемой авиации, не говоря уже о роевых дронах, контроль над которыми будет взломан в первую очередь.
И, вероятно, судя по темпам развития ИИ, гораздо быстрее чем предполагают даже самые смелые футурологи, где-то в течение 5-10 лет.
ANBO
Старожил форума
15.02.2019 22:20
самообучаемый -> самообучающийся?
KLN-90B
Старожил форума
16.02.2019 06:24
ANBO
самообучаемый -> самообучающийся?
На первый взгляд никакой разницы. Но, если робот "самообучающийся", то тогда можно предположить, что существует и некий "ленивый" робот. Воля, целеустремленность исключительные качества эмоциональной человеческой психики, сознания, которого у ИИ пока нет.
И напротив, " самообучаемый", предполагает что в ИИ заложена некая способность к самообучению, т.е. необходимость совершать некое направляемое воздействие. И не выполнять эту задачу ИИ просто не может.
Немецкий Русский
Старожил форума
16.02.2019 16:54
ANBO, браво!!!
CAVOK
Старожил форума
16.02.2019 16:58
Учлёт
В феврале 1996 года Гарри Каспаров победил шахматный суперкомпьютер Deep Blue со счетом 4-2. Этот матч примечателен тем, что первую партию выиграл Deep Blue, автоматически став первым компьютером, победившим чемпиона мира по шахматам в турнирных условиях.

Deep Blue вычислял 50 миллиардов позиций каждые три минуты, в то время как Каспаров 10 позиций за это же время.

В 1997-м Deep Blue победил в матче-реванше (2 победы, 3 ничьих, 1 поражение) и стал первым компьютером, одолевшим сильнейшего шахматиста мира. Отыграться Каспаров уже не смог, потому что IBM отказалась от дальнейших соревнований, посчитав миссию выполненной.
Старая информация. Компьютер теперь побеждает почти всегда. Появились нейросети. Многопроцессорность. Вычислительная мощность настолько возросла, что то в чем ее сейчас меряют невозможно понять умом.
Немецкий Русский
Старожил форума
16.02.2019 17:09
Со мной на днях один священник из близких друзей, в дискуссии об ИИ легко согласился, что ИИ, и его предполагаемое развитие, это рождение бога, а значит ещё одно из доказательств его существования. Имеется ввиду, что если ИИ окажется сильнее человека, то логично ожидать от него создания ещё более сильного ИИ, и так до бога. Так что не стоит расстраиваться, и рассматривать ИИ, как страшного чужака. Возможно это наш будущий благодарный потомок. Только конечно я опять об утопическом...
Учлёт
Старожил форума
16.02.2019 17:16
CAVOK
Старая информация. Компьютер теперь побеждает почти всегда. Появились нейросети. Многопроцессорность. Вычислительная мощность настолько возросла, что то в чем ее сейчас меряют невозможно понять умом.
Конечно старая. Они играли 20 лет назад :)
Алик-1
Старожил форума
17.02.2019 23:06
CAVOK
Старая информация. Компьютер теперь побеждает почти всегда. Появились нейросети. Многопроцессорность. Вычислительная мощность настолько возросла, что то в чем ее сейчас меряют невозможно понять умом.
Меряют её по-прежнему, в количестве операций в секунду. Все эти нейросети, нечеткая логика, распараллеливание процессов - все те же простейшие команды процессору, которые переключают логику на кристалле для получения результата. Когда то человек, начинавший на ламповых ЭВМ, глядя на командную строку UNIX (не графический интерфейс даже) сказал мне: Непонятно мне все это... Вот раньше было просто - программа остановилась, глянул на лампочки состояния регистров и сразу понятно где ошибка.
Кстати, и тогда компьютер выигрывал у людей в шахматы. Просто это не афишировалась, как победа машины над разумом. Поищите: шахматная программа Каисса, к примеру.
CAVOK
Старожил форума
18.02.2019 08:38
Нейросетки, чуть по другому работают. Они имитируют нечеткую логику. И умеют брать количеством процессоров. Но "тупых" процессоров, как в видеокарте. Даже тупой перебор у них сильно веселее. Мало того, их можно бесконечно распараллеливать, внутри одного кластера. Поэтому они шизофреничны и кое что вообще не умеют. Точнее умеют. Они найдут черную кошку в черной комнате, даже если ее там нет. И это самый большой их косяк.
BGA
Старожил форума
18.02.2019 09:33
neustaf
вы считаете, что японские роботы отработали на Фукусиме идеально, особенно в первые три дня, оставайтесь при своем мнении.
Ну на скрипках же играли и танцевали неплохо. А потом уже самураев с ломами и брандсбойтами в центр бросили. Че там с ними ?
Немецкий Русский
Старожил форума
18.02.2019 12:26
Я нисколько не сомневаюсь, что технически японские роботы на момент Фукусимы были в состоянии исполнить необходимое.
Не сработала организация людей, поскольку не существовало у них на тот момент робо-спецназа, хотя технически он существовать мог.
Думаю что сейчас он существует.
Немецкий Русский
Старожил форума
18.02.2019 12:27
Нейросетки, чуть по другому работают.

Чуть по другому чем что?
Red Faraon
Опытный боец
18.02.2019 12:54
Особенности мышления AlphaZero

Гроссмейстер Сергей Шипов разбирает особенности мышления программы для нейронной сети AlphaZero (создана в корпорации DeepMind, которая ныне входит в корпорацию Google) на примере матча с одной из сильнейших коммерческих шахматных программ Stockfish 8.0.

https://www.youtube.com/watch? ...

Сначала идет вступление с предысторией, а с 9-30 идет показ фрагментов партий, где демонстрируется как особенности мышления программы (с достаточно типичными моментами вроде надвижения крайних пешек и стремлением к инициативе ценой жертв), так и некоторые странности связанные с чрезмерной агрессией и "пренебрежением" к железному противнику.
kwahamot
Старожил форума
18.02.2019 13:43
neustaf
вы считаете, что японские роботы отработали на Фукусиме идеально, особенно в первые три дня, оставайтесь при своем мнении.
Идеала вообще в природе не бывает. Но хорошо могло быть только в одном случае - если к такой и именно такой аварии они готовились специально. Заранее моделируя и просчитывая все нюансы, формировали образы именно таких роботов, которые понадобятся. Но такого нет нигде в мире - если на АЭС выявляется риск, то правильнее будет вкладывать деньги в предотвращение его реализации, а не в планирование ликвидации последствий катастрофы. Если бы они просчитали такое цунами, они бы аварийные генераторы переместили выше, а не роботов строили.
Да, к ликвидации последствий катастрофы они оказались не готовы. И никто в мире не готов. И это глобальная катастрофа и весь мир им помогал, и это нормально. И да, первые роботы-разведчики в виде наспех дооборудованных сенсорами универсальных тележек появились сразу же, и работали, хоть и было их мало и по лестницам они ползать не могли. И у немцев бетонные насосы с удаленным управлением очень кстати подвернулись - если бы не они, там бы не только реакторы, но и хранилища отработанного топлива поплавились бы. И японская промышленность с ее мощнейшим R&D мгновенно откликнулась и уже через пару месяцев стала поставлять всё что нужно.
Ну и кроме того, первые несколько месяцев, у них одна задача была - охлаждать любой ценой реакторы и хранилища отработанного топлива. Надо было заливать их водой, хоть из моря, любой ценой. А для этого надо было запитывать штатные насосы и гонять те немецкие, тут не особенно роботы и нужны были. В основном, работа для роботов появилось, когда станцию расхолодили ниже 100 градусов.
BGA
Старожил форума
18.02.2019 17:26
Немецкий Русский
Я нисколько не сомневаюсь, что технически японские роботы на момент Фукусимы были в состоянии исполнить необходимое.
Не сработала организация людей, поскольку не существовало у них на тот момент робо-спецназа, хотя технически он существовать мог.
Думаю что сейчас он существует.
Ну конечно готовы были, только им свинцовые трусы забыли подготовить, поэтому микросхемы с диодами и триодами плавились.
Алик-1
Старожил форума
19.02.2019 12:31
2Red Faraon
Сначала идет вступление с предысторией, а с 9-30 идет показ фрагментов партий, где демонстрируется как особенности мышления программы (с достаточно типичными моментами вроде надвижения крайних пешек и стремлением к инициативе ценой жертв), так и некоторые странности связанные с чрезмерной агрессией и "пренебрежением" к железному противнику.
---
Если кто помнит, история Deep Blue достаточно длительная. Вначале программа безнадежно проигрывала, в том числе и чемпионам мира. Тогда как раз и говорили, что найденной тактикой игры против машины было неспешное развитие игры без стремительных атак. Монотонностью достигалась победа. Потом, когда DB выиграл матч, обиженный Каспаров заявил, что это был не шахматный компьютер вообще, а компьютер, настроенный на игру с Каспаровым. Якобы, при обучении программы использовались прошлые матчи Каспарова для анализа его игры. При этом IBM вела себя уклончиво и особо не торопилась раскрывать все подробности. Таким образом, разрекламированная победа машинного разума над человеком выглядела лишь маркетинговой акцией IBM, а ажиотаж создавался обывательскими СМИ. В принципе, в этом ничего эпохального нет - человеку действительно трудно тягаться с компьютером, анализирующим миллионы вариантов развития событий и не зевающим пешек. Но ведь никто опасается что калькуляторы (которые тоже считают быстрее и точнее человека) завоюют мир.
12





 

 

 

 

← На главную страницу

Чтобы публиковать комментарии, вы должны войти на сайт.

Реклама на сайте Обратная связь/Связаться с администрацией
Рейтинг@Mail.ru