2Немецкий Русский
Интересно, а режет кому-то слух слово «самообучаемый» из заголовка ветки?
---
Был НФ-рассказ из серии прогрессивной фантастики. Злобные капиталисты сделали компьютер и стали ставить его на ракету, на истребитель, на авианосец... чтобы компьютер самообучился, вобрал в себя опыт применения всего оружия. Потом хотели его клонировать и создать непобедимую армию. Но компьютер вместо этого, что понял, что воевать глупо и заразился пацифизмом. А следом за ним оказались пацифистами остальные клонированные компьютеры.

Такой фантастики море, начиная, наверное от Айзека Азимова и до... Мне вспоминается древний фильм W.O.P.R, где ребенок - хакер случайно проник в сеть Пентагона и запустил глобальную термоядерную войну, думая что это игра. А в конце фильма он же заставил компьютер играть сам с собой в крестики-нолики, ИИ понял что у игр не всегда есть победитель, пересчитал войну, понял, что не победит и прекратил ее.
Компьютер, который вдруг стал умным и (или) гуманным тоже в куче книг и фильмов описывается - навскидку Хайнлайн "Луна жестко стелет" или "короткое замыкание" 1986 года...

Я уж про банального Терминатора с его SkyNet не говорю...

Только вот, реальность обычно совсем не такая, как ее фантасты представляют.

А ещё мнения?

Я прошу прощения, что беспокою ветку.
Мой вопрос, он с подвохом, скорее не-ф-темный, грамматический, но радостно, что ветка дышит.
kwahamot, Вы так просто представили работу нейронной сети, я в своё время вникал, вникал, понял, что там очень много, и очень по разному.
Подсветите что-нибудь ещё, у Вас хорошо получается.

А мой вопрос остался на прошлой странице, поэтому повторюсь:
Интересно, а режет кому-то слух слово «самообучаемый» из заголовка ветки?

вы считаете, что японские роботы отработали на Фукусиме идеально, особенно в первые три дня, оставайтесь при своем мнении.

а что не так со словом "самообучаемый"?
Это означает что ИИ основанный на нейросети подстраивает веса в узлах сети в зависимости от результата которого он добился.
Если более точно то применительно к теме топика допустим в текущей конфигурации для воздушного боя ИИ смог одержать победу с определёнными характеристиками (остаток топлива, повреждения, остаток боезапаса, жертвы противника, жертвы мирного населения, жертвы своей и дружественной армии, время за которое одержана победа и т д).
Далее перед началом очередного цикла обучения веса узлов немного изменяются (в то же время старые веса кешируются).
Далее происходит очередной раунд воздушного боя (либо его моделирование) и уже его результаты сравниваются с предыдущим раундом.
Если текущие результаты лучше предыдущих новые веса сохраняются, если хуже - восстанавливаются веса предыдущего раунда.
И так до бесконечности.

И кстати результат определяется метрикой в которой участвуют характеристики.
И только человек может задать изначальные данные.
Если с остатком топлива всё ясно - чем его больше тем лучше то дальше уже не всё так однозначно.
Например, какие повреждения более критические а какими можно пренебречь.
Остаток какого вооружения предпочтительнее - дорогого, с большей убойной силой или того которого осталось мало на складе аэродрома.
Ну и совсем мрак начинается с жертвами.
Машина может рассчитать например следующие варианты боя:
а/ Победа, у противника 10 жертв, у своих 1
b/ победа, у противника 100 жертв, у своих 2
с/ победа, у противника 100 жертв, один свой, один мирный
d/ победа, у противника уничтожено 3 машины, 6 убито, у своих 4
А какие варианты боя предпочтительнее (те, на которые будет машина обучаться действовать наиболее эффективно) уже определяется человеком, который пишет метрику

"Только вот, реальность обычно совсем не такая, как ее фантасты представляют."
Я бы даже сказал наоборот - реальность именно такая какую описывают фантасты.
Просто когда на подходе очередная технология одни произведения служат как пример, другие - наоборот как лучше не делать

"предполагается ли заблокировать это обучение при переходе к их эксплуатации."

Есть промежуточный вариант - на машину ставятся две копии ИИ - изначально они идентичные, сигналы подаются на обе, управляется машина одной копией, а вторая только обучается. Далее после какого-то времени снимаются параметры со второй копии и отдаются на анализ. И по результатам анализа уже принимается решение нужно ли обновлять и первую копию новыми параметрами.
Таким образом возможно небольшое уменьшение эффективности "среднего" воздушного боя но в то же время более прогнозируемое поведение ИИ в каких-то нештатных ситуациях

Согласно опубликованному отчету "Вредоносное использование искусственного интеллекта", ИИ вполне может использоваться странами-изгоями, преступниками и террористами.
https://www.bbc.com/russian/fe ...
Позволю себе, в контексте статьи обозначенной ТС статьи и опубликованного отчета не согласится с такой постановкой вопроса об угрозах. И слово "самообучаемый" из заголовка ветки не только не режет слух, но и заставляет размышлять над современными тенденциями ограничения развития ИИ.
На мой взгляд, такая способность ИИ к самообучаемости напрямую связана с неформальным законом " критической массы" в живой и неживой природе. К примеру, в неживой природе этот закон предопределяет предельное количество свободной энергии, которое эта масса способна удержать в себе, сохраняя свою относительную стабильность. Нечто подобное происходит в живой природе, когда один муравей не знает, как строить муравейник, но когда наберется определенное количество муравьёв, тогда они внезапно приступают к его строительству. Всякая автономная система из микродронов будет послушна воле человека до той поры, покуда их "коллективный разум" не посчитает иначе, либо иным способом не получит команду извне.
В более широком смысле, то рано или поздно будет создан ИИ на основе квантового компьютера и на основе "квантовой неопределенности" возникнет угроза преодоления любых барьеров создаваемых человеком в области телекоммуникации путем криптографии. Это означает, что однажды созданный вполне земной супер ИИ на такой технологии получит управление над всеми воздушными механизмами с обратной связью как с элементами ИИ, так и таковых.
Особую угрозу представят тогда беспилотники ударного типа класса "воздух-земля", но еще большую, беспилотники 6-го поколения класса "воздух -воздух", против которых окажутся бесполезными все средства пилотируемой авиации, не говоря уже о роевых дронах, контроль над которыми будет взломан в первую очередь.
И, вероятно, судя по темпам развития ИИ, гораздо быстрее чем предполагают даже самые смелые футурологи, где-то в течение 5-10 лет.

самообучаемый -> самообучающийся?

На первый взгляд никакой разницы. Но, если робот "самообучающийся", то тогда можно предположить, что существует и некий "ленивый" робот. Воля, целеустремленность исключительные качества эмоциональной человеческой психики, сознания, которого у ИИ пока нет.
И напротив, " самообучаемый", предполагает что в ИИ заложена некая способность к самообучению, т.е. необходимость совершать некое направляемое воздействие. И не выполнять эту задачу ИИ просто не может.

ANBO, браво!!!

Старая информация. Компьютер теперь побеждает почти всегда. Появились нейросети. Многопроцессорность. Вычислительная мощность настолько возросла, что то в чем ее сейчас меряют невозможно понять умом.

Со мной на днях один священник из близких друзей, в дискуссии об ИИ легко согласился, что ИИ, и его предполагаемое развитие, это рождение бога, а значит ещё одно из доказательств его существования. Имеется ввиду, что если ИИ окажется сильнее человека, то логично ожидать от него создания ещё более сильного ИИ, и так до бога. Так что не стоит расстраиваться, и рассматривать ИИ, как страшного чужака. Возможно это наш будущий благодарный потомок. Только конечно я опять об утопическом...

Конечно старая. Они играли 20 лет назад :)

Меряют её по-прежнему, в количестве операций в секунду. Все эти нейросети, нечеткая логика, распараллеливание процессов - все те же простейшие команды процессору, которые переключают логику на кристалле для получения результата. Когда то человек, начинавший на ламповых ЭВМ, глядя на командную строку UNIX (не графический интерфейс даже) сказал мне: Непонятно мне все это... Вот раньше было просто - программа остановилась, глянул на лампочки состояния регистров и сразу понятно где ошибка.
Кстати, и тогда компьютер выигрывал у людей в шахматы. Просто это не афишировалась, как победа машины над разумом. Поищите: шахматная программа Каисса, к примеру.

Нейросетки, чуть по другому работают. Они имитируют нечеткую логику. И умеют брать количеством процессоров. Но "тупых" процессоров, как в видеокарте. Даже тупой перебор у них сильно веселее. Мало того, их можно бесконечно распараллеливать, внутри одного кластера. Поэтому они шизофреничны и кое что вообще не умеют. Точнее умеют. Они найдут черную кошку в черной комнате, даже если ее там нет. И это самый большой их косяк.

Ну на скрипках же играли и танцевали неплохо. А потом уже самураев с ломами и брандсбойтами в центр бросили. Че там с ними ?

Я нисколько не сомневаюсь, что технически японские роботы на момент Фукусимы были в состоянии исполнить необходимое.
Не сработала организация людей, поскольку не существовало у них на тот момент робо-спецназа, хотя технически он существовать мог.
Думаю что сейчас он существует.

Нейросетки, чуть по другому работают.

Чуть по другому чем что?

Особенности мышления AlphaZero

Гроссмейстер Сергей Шипов разбирает особенности мышления программы для нейронной сети AlphaZero (создана в корпорации DeepMind, которая ныне входит в корпорацию Google) на примере матча с одной из сильнейших коммерческих шахматных программ Stockfish 8.0.

https://www.youtube.com/watch? ...

Сначала идет вступление с предысторией, а с 9-30 идет показ фрагментов партий, где демонстрируется как особенности мышления программы (с достаточно типичными моментами вроде надвижения крайних пешек и стремлением к инициативе ценой жертв), так и некоторые странности связанные с чрезмерной агрессией и "пренебрежением" к железному противнику.

Идеала вообще в природе не бывает. Но хорошо могло быть только в одном случае - если к такой и именно такой аварии они готовились специально. Заранее моделируя и просчитывая все нюансы, формировали образы именно таких роботов, которые понадобятся. Но такого нет нигде в мире - если на АЭС выявляется риск, то правильнее будет вкладывать деньги в предотвращение его реализации, а не в планирование ликвидации последствий катастрофы. Если бы они просчитали такое цунами, они бы аварийные генераторы переместили выше, а не роботов строили.
Да, к ликвидации последствий катастрофы они оказались не готовы. И никто в мире не готов. И это глобальная катастрофа и весь мир им помогал, и это нормально. И да, первые роботы-разведчики в виде наспех дооборудованных сенсорами универсальных тележек появились сразу же, и работали, хоть и было их мало и по лестницам они ползать не могли. И у немцев бетонные насосы с удаленным управлением очень кстати подвернулись - если бы не они, там бы не только реакторы, но и хранилища отработанного топлива поплавились бы. И японская промышленность с ее мощнейшим R&D мгновенно откликнулась и уже через пару месяцев стала поставлять всё что нужно.
Ну и кроме того, первые несколько месяцев, у них одна задача была - охлаждать любой ценой реакторы и хранилища отработанного топлива. Надо было заливать их водой, хоть из моря, любой ценой. А для этого надо было запитывать штатные насосы и гонять те немецкие, тут не особенно роботы и нужны были. В основном, работа для роботов появилось, когда станцию расхолодили ниже 100 градусов.

Ну конечно готовы были, только им свинцовые трусы забыли подготовить, поэтому микросхемы с диодами и триодами плавились.

2Red Faraon
Сначала идет вступление с предысторией, а с 9-30 идет показ фрагментов партий, где демонстрируется как особенности мышления программы (с достаточно типичными моментами вроде надвижения крайних пешек и стремлением к инициативе ценой жертв), так и некоторые странности связанные с чрезмерной агрессией и "пренебрежением" к железному противнику.
---
Если кто помнит, история Deep Blue достаточно длительная. Вначале программа безнадежно проигрывала, в том числе и чемпионам мира. Тогда как раз и говорили, что найденной тактикой игры против машины было неспешное развитие игры без стремительных атак. Монотонностью достигалась победа. Потом, когда DB выиграл матч, обиженный Каспаров заявил, что это был не шахматный компьютер вообще, а компьютер, настроенный на игру с Каспаровым. Якобы, при обучении программы использовались прошлые матчи Каспарова для анализа его игры. При этом IBM вела себя уклончиво и особо не торопилась раскрывать все подробности. Таким образом, разрекламированная победа машинного разума над человеком выглядела лишь маркетинговой акцией IBM, а ажиотаж создавался обывательскими СМИ. В принципе, в этом ничего эпохального нет - человеку действительно трудно тягаться с компьютером, анализирующим миллионы вариантов развития событий и не зевающим пешек. Но ведь никто опасается что калькуляторы (которые тоже считают быстрее и точнее человека) завоюют мир.