Китай запретил СМИ оглашать результаты турнира по игре го между человеком и алгоритмом Google / Китай :: новости :: го

го Китай новости 

Китай запретил СМИ оглашать результаты турнира по игре го между человеком и алгоритмом Google

Власти Китая запретили местным СМИ вести трансляцию и сообщать результаты турнира по национальной игре го между сильнейшим игроком страны и алгоритмом от Google AlphaGo. Как признался позднее проигравший в схватке игрок Кэ Цзе (Ke Jie), алгоритм стал слишком силён по сравнению с человеком.

го,Китай,новости

Китайское правительство разослало изданиям и телеканалам предупреждения, чтобы они не транслировали игру и не уведомляли о её результатах. Китайские фанаты игры были возмущены, что не могут посмотреть турнир, проходящий в их родной стране.

Причины, по которым запрещено транслировать игру, не называются. По данным The Guаrdian, власти Китая не хотели, чтобы пострадала национальная гордость. Отмечается, что игра го считается национальным достоянием страны, и ей наравне с живописью и каллиграфией должен владеть любой джентльмен.

Первая игра турнира состоялась 23 мая, и алгоритм от Google победил в ней 19-летнего чемпиона, который после игры признался, что машина стала сильнее человека, и он больше никогда не будет играть с искусственным интеллектом. Раньше считалось, что компьютер не может победить человека в го из-за отсутствия абстрактного мышления.

Однако алгоритм AlphaGo 2016 года стабильно обыгрывает сильнейших игроков по всему миру. 12 марта стало известно, что машины окончательнопобедили человека в древнейшей настольной игре.



Подробнее

го,Китай,новости
Еще на тему
Развернуть
Кто-то лучше ем азиаты!?
WRZESZCZ WRZESZCZ 29.05.201714:40 ответить ссылка 17.1
ПО писали гугловские азиаты
Получается, что они превзошли самих себя!
С учётом применения машинного обучения и кучи игр с собой же (ЕМНИП, упоминалось, что их в обучающей выборке уже куда больше, чем игр с людьми) - это уже какое-то "ученик превзошёл учителя". Впрочем -очень специализированный ученик в очень специфической области, да.
Поскольку он учился у азиатов, то теперь это алгоритм-азиат. И победить его теперь сможет только другой алгоритм-азиат.
AshB AshB 29.05.201715:46 ответить ссылка 4.1
его может поломать алгоритм-индус
jabia jabia 29.05.201717:00 ответить ссылка 5.9
Если по пути не сломается сам
AshB AshB 29.05.201717:06 ответить ссылка 1.4
он не ломается, он так работает. Есть индийская физика и есть индийская логика.
jabia jabia 29.05.201717:14 ответить ссылка 1.9
Это не единственный вариант.
IT'S A FUlOtEN CHESS PLAYING ^ GOLEM! ^
IT'S TOTALLY SMARTER AT CHESS THAN .EVERYONE!
WELL, I WARN YOU- I WAS QUITE THE GRANDMASTER IN MY YOUTH
YOU GOT A PIANO? I IT ALSO PLAYS THU^ PIANO!	plays
]]/ /"> TO FUfcKEN ^Jzsy ^ WIN! V
1 YEAH,
FUCK
CHESS!
Не прокатит. Он вроде по большей части учился на играх с самим собой, а не на человеческих играх.

[wh40k]з.ы. хм, следует ли из этого то, что это ксеноалгоритм?[/wh40k]
Там внутри машины просто сидело два азиата
Альфа победил пяти азиатов в матче против него, которые совместно играли.
Думаю, за 248 лет таки можно запилить что-то новое :-)
Я, вот, в упор не вижу смысла в этом запрете. Будто никто не догадался.
Учитывая что Ли Седоль меньше чем полгода назад взял 1ну из 5 партий, а ему 30 лет что для Го большой возраст. А тут самый сильный игрок (+250 по рейтингу эло) проиграл все под сдачу без малейших шансов, скорее всего именно это и является причиной запрета.
rekja rekja 29.05.201714:52 ответить ссылка 0.8
Я по радио слышал 2 из 3 проиграл, но радио конечно такой себе пруф.
Murgen Murgen 29.05.201715:51 ответить ссылка 0.4
3 из 3, если интересно на en википедии статья AlphaGo_versus_Ke_Jie
rekja rekja 29.05.201715:58 ответить ссылка 0.2
AlphaGo_versus_Ke_ke_ke
Ну как под сдачу, первую игру он таки проиграл 0,5 очка, т.е. одного очка ему не хватило до выигрыша...
Интересно было еще смотреть как команда из пяти про игроков играла, совещаясь друг с другом. Вот на них была надежда, однако не оправдалось.
satory satory 30.05.201700:47 ответить ссылка 0.0
Ты затронул вопрос пропаганды, дескать, зачем нужна такая штука. А вот и нужна. Кому нужно тот догадался, а кому было не нужно тот и не узнал.
Tetrix Tetrix 29.05.201715:21 ответить ссылка -4.3
Всё равно херня какая-то. В смысле "а кому было не нужно тот и не узнал"? Или китайцы глупее нас, по твоему?
ну дак у них в новостях не будет "сегодня запрещено объявлять о том, что наш хер проебал в го" просто не будут говорить ничего
"Китайские фанаты игры были возмущены, что не могут посмотреть турнир, проходящий в их родной стране."
Dan4ik Dan4ik 29.05.201716:35 ответить ссылка 1.6
А разве не нельзя было по старинке сказать что-то типа: "наш чемпион занял второе место, а компьютер всего лишь предпоследнее"?
Это как с запретом про коррупцию на ТВ.
Догадаются. Но не хомячки.
Тсс, выросло поколение которое не помнит батлов компьютеров и шахматистов, которые открыто говорили что они не совсем находятся в одинаковых условиях посколько компьютер обладает базой всех шахматных комбинаций и ходов и игрок нет.
"власти Китая не хотели, чтобы пострадала национальная гордость."
Ну я понимаю если бы Джеки Чана отпиздил робот, а тут чему страдать?
jabia jabia 29.05.201719:40 ответить ссылка 0.6
"игра го считается национальным достоянием страны", судя по новеллам, которые я читал, для них это действительно настолько важно - сохранить "лицо".
Проиграть роботу это конечно ничего постыдного, но видимо для азиатов и это не является оправданием
это азиаты.
они собирают мобилки и прочую электронику не для того, что бы ей проигрывать
О чем я и говорю
Чистая история браузера - это грязная история браузера.
Jori Jori 30.05.201706:25 ответить ссылка 0.1
началось
Зачем сразу отказываться когда либо играть с ИИ? Как раз для повышения скила и нужно играть с более сильным противником.
krakotak krakotak 29.05.201714:52 ответить ссылка -4.3
Что-то мне вангуется, что это уже какое-то избиение младенцев :-)
alex4321 alex4321 29.05.201714:58 ответить ссылка 10.6
Тяжело что-то почерпнуть от противника, который просчитывает множество ходов за доли секунды, при этом без возможности ошибиться.
Armcael Armcael 29.05.201715:12 ответить ссылка 11.4
Ну, возможность ошибки тут таки как раз есть. Разве что не рандомной ошибки, а связанной с обучающей выборкой.
У нас же не сформулированный вручную перебор возможных ходов с внятными критериями отсечения, а какая-то свёрточно-рукуррентная нейронная сеть (соответственно, разобрать алгоритм работы обученной сети - задача не самая тривиальная, а он может быть ошибочен (и наверняка будет в части случаев)).
Го игра отностительно простая, не крестики нолики, но недалеко от них ушла (надеюсь тут нет фанатов ГО). Фишка в том что количество ходов в партии по сути ограниченно и у современных машин есть реальная возможность просчитать их все причем не только свои дальнейшие ходы но и все возможные действия оппонента, то есть это не какая-то изначально заложенная стратегия а простая система прощает. Так что единственная возможная ошибка это есть не будет предвиден какой-то ход, а это при учете всего вышесказанное просто невозможно.
Немного по другом дела обстоять с ИИ в шахматах, так как вариативность ходов там очень велика и надо учитывать слишком много, в плодь до того что противник может сыграть себе во вред, там действует система коэффициента ходов. В зависимости от ситуации тому или иному ходу присваивается N-ое значение и компьютер просто выбирает вариант с наибольшим вэлью (value) и вот в таком случаи реально сеть шанс подловить компьютер, но в последнее на это мало кто способен.
MakOffKa MakOffKa 29.05.201720:33 ответить ссылка -1.8
Вроде упоминалось, что как раз-таки комбинаторная сложность игры там выше шахмат, не? Впрочем, я не интересовался.
Для шахмат, где возможно 12 фигур (по 6 для каждой стороны) на доске в 64 клетки недавно досчитали 7 фигурные позиции, например у одной стороны 4 фигуры, у другой 3.
Для 8 фигур нужен остров под ЦОД для хранения позиций.
Для 9 фигур уже не хватит объема всех винтов на планете.
Всего фигур 32.. Так что близки, как никогда.
А всего шахматных партий возможно в *10^42 раз больше, чем атомов в наблюдаемой вселенной.
Шашки посчитали лет 8 назад, там 2 фигуры, максимум 24 на доске в 32 клетки.
Го - игра с 2 фигурами и доской в 361 клетку и максимумом 361 фигуру (меня могут поправить, не силен в го).
Там расчет позиций лишен смысла вообще - с течением партии количество фигур растет, следовательно обратный расчет (как в шашках или шахматах) невозможен.
Вообще-то как раз наоборот, Го - одна из самых сложных игр, придуманных человеком, количество возможных комбинаций намного больше, чем в шахматах, на десятки порядков больше. Компьютер не способен просчитать все возможные варианты даже на небольшое число ходов вперёд - их слишком много. А человек видит "стратегию", некие общие неклассифицируемые вещи, типа "зайду с левого фланга". Именно поэтому считалось, что компьютер сумеет нормально играть в эту игру только много лет спустя, если вообще когда-либо научится. Именно поэтому для Го не подходит распространённый алгоритм перебора всех ходов в поисках выигрышных, как это было сделано в шашках и шахматах.
Даже в шахматах комп не все ходы считает, есть алгоритмы отсечения и тд
Вот как раз го на современном уровне не поддается полному просчету из-за величины поля, вариативности и возможности фишки не только ставить, но и убирать.
Обыгрывающий ИИ таки как раз нейросеть, обученная по 100500 матчам и долгие годы тренировавшаяся играть сама с собой.
статья в тему: https://geektimes.ru/post/272782/
Я шахматист со стажем.
Игра с ПК настолько отличается от игры с человеком, что многому ты не научишься для последующей игры против людей.
ПК идеально видит тактику, но стратегически он мыслить не может.
Стратегическая составляющая выходит из предельно улучшенной тактической а не из понимания, что в целом хорошо, а что не очень.
Это адовая нейронная сеть и она как раз сильнее в стратегии на две головы чем человек.
Го? Соглашусь.
Но для игры против человека это не научит особо.
Отправная точка роста - понимание, в какой моменты ты ошибся.
А если го это убер абстрактная игра, то ... осознать, что вся выбранная стратегия на игру, а не отдельный компонент или некоторая критическая позиция по пути были ошибочны - невероятно сложно.
Я согласен, что игра с тем, кому ты проигрываешь может чему-то научить, но далеко не всегда это эффективно.
"После своего поражения Фань Хуэй заявил, что благодаря этому матчу он стал играть лучше и стал видеть те элементы игры, которые не замечал ранее; к марту 2016 года мировой рейтинг Фань Хуэя поднялся примерно на 300 позиций[9]."
Кэ Цзе так же широко использовал тактики и ходы Альфа Го.
Новые идеи, тактики, удачные ходы, позволяют игрокам двигаться вперёд.
Ок, но
"Кэ Цзе так же широко использовал тактики и ходы Альфа Го. "
ходы?
Техники?
В игре, где вариантов расстановок заэпическое множество и минимальные отличия играют роль можно уловить иные техники и даже ходы?
Думаю, тут журналисты исказили фразу. В который раз.
Да, можете посмотреть канал Российской Федерации по ГО, они комментировали игры Альфа Го на Русском. Там они много интересного рассказывают. Там есть и определённые стратегии, тактики, группы ходов, и тд.
Ага, научишься у комментаторов и таких аналитиков.
Я смотрел (и смотрю) не мало игр по доте, и от самых комментаторов/аналитиков ничего не научился, только за наблюдением за игроками, что-как они делают в той-или-иной ситуации. Игрок сделал выбор > комментатор раскритиковал и сказал что он бы купил предмет 2, а не 1, а второй комментатор скажет что вообще 3 предмет бы взял, и пошло-поехало. Только игрок вкладывает убер дохуя времени игры именно на той позиции, именно тем героем.
Но, конечно, ГО, шахи, это не дота, но я бы не стал слушать комментаторов/аналитиков, только игроков.
Ты ничего не понимаешь в го. 1 ход в го значит мало, потому что их сотни, но серия ходов и группакамешков решает игру. Игра позиционная, камешек который ты положил на 3 минуте может стать победным на второй день игры.
На твой лад: представь, что ты с трех лет ходишь в школу доты и ничего больше не умеешь, имеешь статус и много денег, потому что ты доказал, что ты лучший или в тройке лучших, ты знаешь, что стак на 3,54 секунде на маленьких крипах даст тебе преимушество на 12:30 секунде и если он есть, пытаешься получить преимущество и удержать его и так далее, такие мелочи стратегические, что и представить сложно, но все они должны быть в голове у игрока. А теперь представь, что преимущество в том, что ты забрал стак на 8 минуте может легко уйти, так как ты не побил вышку и тебе потом не хватит тычки, чтобы забрать башню на линии, когда будешь пушить. Потому что ход один, а поля больше, каждый раз наращивая влияние на одной части поля. ты можешь потерять его на другой.
Так я о влиянии комментатора на зрителя...
Я понимаю, что игрок всё учесть не может, да, комментатор без какого-либо гемора смотрит на игру, но комментатор зачастую только что и делает - комментирует и малость играет. Видение игры "сверху" это не все, что знает игрок и комментатор, игрок видит игру намного по другому. Не мало бывает такое, что после какого-то абсурдного байя или действия приглашают игрока в ту-же студию комментаторов, спрашивают и получают не абы какой ответ, ответ который они даже представить себе не могли, и с тупого действия вырос гениальнейший ход.
За столько часов игрок уже может это "всё" держать в голове, он даже может не думать о них, а делать.
Я тебя понял, но все же есть еще кое-что. Как-то мы с другом решили поиграть в Го и после 4 часов игры мы пришли к тому, что мы не знали, кто победил.
Все-таки судейство Го и комментирование должно быть профессиональным, поскольку там не все так однозначно и действительно порой сложно понять кто победил.
Как насчёт такой возможности, что нейронная сеть, рассматривая миллионы стратегий, скомпонует какой-то новый тип стратегий, до которых не могли додуматься люди с их слабыми мозгами. И игроки увидят эти новые стратегии и начнут использовать?
Безусловно, возможность есть.
Но это как учить абстракции рисовать - невозможно формализовать абстрактное.
КПД такого обучения невысок, но эффективен для топовых белковых игроков, ибо иные пути исчерпаны.
Как раз недавно нейронную сеть обучили рисовать в стиле Рембрандта :) Даже не все эксперты сумели отличить и поверили, что найдена его неизвестная картина.
Это круто!
Только вопрос, нейронная сеть смогла бы вырастить ученика Рембрандта?
Нейроные сети неплохо рисуют, нужно натравить одну на поиск идеала годноты.
Эмм, а зачем? Чтобы быть использованной каким-нибудь сумрачным гением против человечества, не надо уметь выращивать учеников Рембрандта. Достаточно давать советы по биржевым сделкам или по составлению политических речей.
Google говорит, что всё ещё проще.
https://m.geektimes.ru/post/272288/
Ну все, последняя игра пала.
alustar alustar 29.05.201714:59 ответить ссылка 7.4
Они еще не переиграли нас в доту, надежда есть
Madcon Madcon 29.05.201715:06 ответить ссылка 8.4
учитывая что Valve как раз не так давно открыло API для ботов в доте ...
* уходит пилить BetaDota *
По одной из ссылок утверждается, что ИИ все еще уступает человеку в первом СтарКрафте.
Murgen Murgen 29.05.201715:52 ответить ссылка 1.9
корейцу, имеешь ввиду?
FeedUs FeedUs 29.05.201718:05 ответить ссылка 2.8
Ну они сказали, что переключат внимание на Starcraft 2, а там и до дотын не далеко
А можно ссылочку?
Nik790 Nik790 29.05.201717:15 ответить ссылка 0.0
Ну это относительно старая новость - https://geektimes.ru/post/282272/
Сами Blizzard вроде даже говроли о нейросетях в старкрафте на близзкон2016.
А как же те игры из детсва с палками и рисунками на земле? В которых мы сами не могли разобраться, хотя сами же придумывали?
Заголовки: "машина стала настолько умной, что обыграла человека".
На самом деле: "команда людей настолько хорошо изучила игру, что смогла сделать машину, обыгрывающую человека".
Ноуп, команда никаких стратегий аообще не закладывала в машину.
Команда людей здесь выбирает устройство ИНС (тут врядли что-то сильно специфическое для этой игры) и механизм представления состояния игры/ходов, хорошо ложащийся на выбранную архитектуру.
Но не пилит стратегии - они выводятся автоматически.

Впрочем, "настолько умной, что обыграла человека" - ни о чём. Ясное дело, что годный узкоспециализированный (в данном случае за счёт обучения) девайс будет лучше человека в этой узкой области.
alex4321 alex4321 30.05.201716:22 ответить ссылка -0.6
> вряд ли что-то сильно специфичное для этой игры
Нет, неправда. Очень специфичное для этой игры. Шахматные программы совсем по-другому работают.
Почитай whitepaper
https://gogameguru.com/i/2016/03/deepmind-mastering-go.pdf
Имел в виду, что, вероятно, сеть схожей архитектору можно обучить другим задачам.
Спасибо, ознакомлюсь.
AlphaGo не только порвал кожаных ублюдков.

Десятки лет фантасты упорно напирали на идею изворотливости и гибкости человеческого разума, противопоставляя его предопределенному машинному мышлению, жестко ограниченному алгоритмами. Но AlphaGo еще в матче с Ли Седолем смог создать новые стратегии, которые кожаные ублюдки с радостью начали осваивать. Это не просто победа - это вклад в развитие игры, сопоставимый с вкладом величайших мастеров.
Hellsy Hellsy 29.05.201715:00 ответить ссылка 14.9
Интересно, как отреагирует ИИ если спиздить одну шашку со стола.
"Позвольте, товарищ, у меня все ходы записаны" :-)
alex4321 alex4321 29.05.201715:08 ответить ссылка 15.8
или сообщение "ty ohuel?"
MeDjiD MeDjiD 29.05.201715:21 ответить ссылка 17.6
А потом оно пилит T-800 и человек-игрок делает вывод, что сейчас его будут бить. Возможно, даже ногами.
Возможно, не только бить
пианино есть?
ОН И НА ПИАНИНО ИГРАЕТ! ^
ИГРАЕТ ДО ПОЬЕДЫ'
смеемся пока можем
ИНТЕЛЛЕКТ
ВРЕМЯ
waitbutwhy.com
Pore Pore 29.05.201715:42 ответить ссылка -5.5
Очередная пикча о страшном ии от нихрена не понимающих.
Чтобы запинать человеческую расу, суперразум не нужен, хватит и довольно примитивных алгоритмов. А вот возможность быстрого, дешевого и бесконтрольного размножения обязательна.
До массовых микро- и наноботов я бы не беспокоился.
ValD ValD 29.05.201715:51 ответить ссылка -2.0
с микро и нано писюнами?
... бактерии, грибки с вирусами есть.
JIUNn JIUNn 29.05.201716:29 ответить ссылка -4.8
хех а теперь половое размножение одноклеточных.
JIUNn JIUNn 29.05.201722:41 ответить ссылка 0.3
С развитием нейросетевых алгоритмов и вычислительной техники сложность ИИ быстро обгонит нашу. И тогда уже мы будем для них простым и понятным алгоритмом, который легко контролировать.
Типичная фраза ни о чём.
ИИ - это не злобный гений, который зловеще хихикает в тёмной лаборатории.
Это набор алгоритмов. Со всем, что касается именно алгоритмов, люди научились неплохо справляться. И никому отчего-то в голову не приходит, что до запиливания "сложного ИИ" люди успеют запилить инфраструктуру, защищнную не менее сложным ИИ, только специализированным.

Нас победит не сложность, а сочетание простоты и отсутствие времени на реакцию.
ValD ValD 29.05.201717:03 ответить ссылка 3.6
ИИ не злодей, но люди да. Главная опасность ИИ не в нем самом, а в людях которые будут задавать ему цели.
По поводу защищенности, ага-ага, запри сущность в клетку и наращивай ему мозги, чтоб он вырвавшись(а это рано или поздно произойдет), питал к своим создателям огромную благодарность. Гениально!
Dan4ik Dan4ik 29.05.201717:17 ответить ссылка -6.3
Ну вот опять идиотизм про "вырвавшись", "сущность". Не надо очеловечивать набор алгоритмов. Это моментально выдаёт человека, который ну просто вообще не в теме.

И нет, злобный гений-человек не создаст суперзлобный ии, который одним махом всё сломает и всех убьёт.
Просто потому, что умных людей, озабоченных безопасностью сетей, гораздо больше. Идеалистов или на зарплате, не критично.
ValD ValD 29.05.201717:32 ответить ссылка 3.0
Не надо уводить все в абсурд. Никто не говорит про злобного гения стремящегося всех убить и сломать. Человеку свойственная глупость и алчность. Этого вполне достаточно.
Dan4ik Dan4ik 29.05.201717:35 ответить ссылка -6.3
Глупость и алчность плодит шивровальщики и прочий бодрый вирусняк.
Никаким супер-ии тут не пахнет и не будет, т.к. это просто не выгодно.
ValD ValD 29.05.201717:36 ответить ссылка 2.5
Супер ИИ не выгоден?
Dan4ik Dan4ik 29.05.201717:50 ответить ссылка -2.5
Придумай для супер-ИИ задачу, в которой его можно применить с большим профитом, чем всё существующее, - ответишь на свой вопрос.
Пока что со всеми задачами справляются относительно простые алгоритмы, и основная сложность в получении-обработке данных.
ИИ - это не быстродействие, это именно алгоритмы.
ValD ValD 29.05.201717:57 ответить ссылка 1.9
Впрочем, если считать суперским "прохождение" теста Тьюринга, можно сходу выдать такую задачу: сфера услуг во всём разнообразии. От официантов до секс-рабынь.
Но как-то имитация человека, даже безупречная, на супер-ИИ не тянет.
ValD ValD 29.05.201718:10 ответить ссылка 0.4
Не совсем так. Сейчас используются алгоритмы обучения и конфигурации нейросетей, а дальше нейросеть учится сама и сама создает себе алгоритмы.

Задач для нейросетей полно, от банальных - перенести стиль, сделать текстовую аннотацию к каждому кадру фильма (что на нем есть, какие действия выполняются), разобрать фотки, проставив им тэги, выявить опухоль на снимках КТ (а Watson даже диагнозы ставит), оптимизировать использование места на складе и т.д. и т.п.
Hellsy Hellsy 29.05.201719:53 ответить ссылка 0.1
Нейросети - это как раз относительно простые алгоритмы.
Относительно некоего супер-ии, которого пока нет.
ValD ValD 29.05.201720:03 ответить ссылка 0.1
Основа AlphaGo - это нейросеть. Нейросети - не просты, относительно просты алгоритмы их обучения и использования. А что там себе сеть нагородила и как это работает - разобрать довольно сложно. Есть такие методы как конкуретное обучение и добавление шума. Из-за них сети, развивавшихся на на одних и тех же данных и алгоритмах, в итоге окажутся разными.
Hellsy Hellsy 29.05.201720:10 ответить ссылка 0.0
Да как бы в курсе, но не вижу, как это всё делает те же нейросети чем-то запредельно сложным.
Принципы работы известны от и до, промежуточный результат может быть сколь угодно сложно воспринимаемым, но если бы он был простым, зачем вообще затевать это всё?
Любой инструмент служит для расширения спектра возможностей.
ValD ValD 29.05.201720:21 ответить ссылка -1.8
С таким подходом в мире нет вообще ничего сложного. Химия? Пфф... подумаешь, разные комбинации из какой-то жалкой сотни элементов про которые любой школьник знает. Мозг? Да вообще элементарно - нейроны, аксоны, медиаторы, - принципы работы известны.
Hellsy Hellsy 29.05.201722:06 ответить ссылка 1.4
И еще момент, современный ИИ это не совсем простой набор алгоритмов.
К примеру, к нему невозможно применить знаменитые законы робототехники Азимова. Разве это говорит что мы неплохо справляемся? По мне это больше похоже на безумные гонки вслепую.)
Dan4ik Dan4ik 29.05.201717:27 ответить ссылка -3.9
Современный ИИ это именно набор алгоритмов и ничего больше.

Азимов не был программистом. Его "законы" в принципе никуда нормально прикрутить нельзя, даже не учитывая их противоречивость и неполноту.
Это никак не умаляет его вклада в популяризацию науки и роботехники в частности.
ValD ValD 29.05.201717:35 ответить ссылка 3.8
У Азимова противоречивость и неполнота трех законов робототехники является поводом для доброй половины его рассказов.
"И еще момент, современный ИИ это не совсем простой набор алгоритмов."
Это почему же? Набор алгоритмов же. Пусть часть из них сформирована посредством машинного обучения - что затрудняет (а то и делает бессмысленным) их понимание.
"Не совсем простой набор"
Это ответ на: "Со всем, что касается именно алгоритмов, люди научились неплохо справляться."
По моему слегка безответственно создавать оружие не научившись его полностью контролировать.
Dan4ik Dan4ik 29.05.201717:53 ответить ссылка -0.1
Действительно, люди всю свою сознательную историю ведут себя "слегка безответственно".
ValD ValD 29.05.201717:58 ответить ссылка 0.1
И нет никакой гарантии что рано или поздно это печально закончится
Dan4ik Dan4ik 29.05.201717:59 ответить ссылка 0.0
И вот таким довольно глупым путём мы пришли к парадоксу Ферми.
Поздравляю, есть что почитать на досуге.
ValD ValD 29.05.201718:02 ответить ссылка 0.3
Не с чем, я с ним знаком и по моему это как раз подтверждает мысль что стоит быть осторожнее. Разве нет?
Dan4ik Dan4ik 29.05.201718:10 ответить ссылка 0.0
Конечно, нет. Если миллионы-миллиарды-больше цивилизаций порог не прошли, и мы не пройдём, ибо чем мы лучше. Скорее уж хуже.
Если прошли или разум уникален в нашей части воспринимаемой вселенной, то и беспокоиться тут не о чем.

Не о чем - в смысле, больше, чем уже беспокоятся те, кому по должности положено. Причём это те, кто в этой конкретной сфере, какой бы они ни была, хорошо разбираются.
ValD ValD 29.05.201718:15 ответить ссылка 0.0
Те кому по должности положено либо заняты проблемами дня насущного, либо не имеют большого влияния. Опыт вымерших цивилизаций нашей же планеты показывает, что если не подходить разумно к планированию своего будущего, то оно может не наступить.
Dan4ik Dan4ik 29.05.201718:28 ответить ссылка -0.6
Боги варпа, какой ещё опыт вымерших?
Если они вымерли, их опыт по определению несостоятелен. Они ж вымерли.

Те, кому положено, разрабатывают скучные правила техники безопасности, правила проведения экспериментов, испытаний и прочего-прочего и следят за их выполнением.
И этот крайне скучный комплекс мер (а также общее неприятие результатов, полученных без их соблюдения) делает для нашей общечеловеческой безопасности примерно на 20 порядков больше, чем все вопли об опасных технологиях, вместе взятые.
ValD ValD 29.05.201718:33 ответить ссылка 0.6
"Они ж вымерли"
Ну, можно учесть опыт, учитывая, что он был неудачен. А то уже какая-то ошибка выжившего выходит, не?

Впрочем - и в самом деле - "Боги варпа, какой ещё опыт вымерших?". Я вот разве что разные просравшие всё государства могу припомнить.
Человеки в целом мыслят одинаково.
Если кто-то там вымер, а кто-то нет, значит, в живом коллективе ошибку либо учли, либо обошли, и актуальной она уже навряд ли станет.

Не могу придумать пример, даже притянутый за уши, который бы это опровергал. "Опыт вымерших" - либо всякое древнее хрензнаетчто, которое просто не актуально, либо об ошибках благодаря СМИ и историкам знают все (и всё равно не особо учитывают, что делает всё ещё веселее).
ValD ValD 29.05.201718:48 ответить ссылка 0.0
"Если они вымерли, их опыт по определению несостоятелен. Они ж вымерли."
Этот аргумент меня добил. Окей, я устал, я мухожук.
Dan4ik Dan4ik 29.05.201718:44 ответить ссылка -0.1
Вообще я за новые технологии и тем более за нейронные сети, которые сулят нам в скором времени много вкусностей. Просто, думаю, нужно как-то подготовиться к ним. Мне больше нравится идея расширения возможностей человеческого мозга, хотя если вдуматься это сулит те же проблемы.
Dan4ik Dan4ik 29.05.201718:04 ответить ссылка -1.0
Искусственные нейронные сети не связаны с "настоящими" практически никак.
Разум на них не построить и не расширить.
Популярное заблуждение, основанное на не совсем удачном названии.
ValD ValD 29.05.201718:07 ответить ссылка 0.1
"По моему слегка безответственно создавать оружие не научившись его полностью контролировать."

Ты предлагаешь бежать впереди поезда, который мог не поехать.
Очевидно, можно сперва запустить таки этот поезд в некритичных областях, а уже в случае, если оно такип окажет хорошую работоспособность - заняться исследованиями на тему того, как удачнее визуализировать его работу или и вовсе свести его описание к более человеко-читаемой форме.
Поезд уже запущен
Dan4ik Dan4ik 29.05.201718:21 ответить ссылка 0.1
Я знаю - даром что ли интересуюсь темой и даже попиливаю мелкое поделие :-)

Но вроде бы пока во всех критичных областях (хотя, я из критичного, где используется сколь-либо сложный алгоритм с ML припоминаю только IBM-е попытки в классификацию снимков для медиков) - решение всё равно оставалось за человеком же.
Вообще говоря, нейронная сеть - это набор алгоритмов + наработанная база данных.
Без своей наработанной базы данных она ни на что не способна.
Ну я как бы знаю, о чём говорю :-)
"Набор алгоритмов же. Пусть часть из них сформирована посредством машинного обучения"
Я таки имел в виду функцию, реализуемую обученной сетью.
Лично я, как и многие IT-ки вижу зло в ИИ вовсе не в "злом умысле". А в сингулярности. Скорее всего нет никаких барьеров в величине разума, и сумев преодолеть ряд преград можно будет апнуть его возможности до прямо инферальных. Отсюда простой вывод: создав подобный ИИ мы порождаём нечто, что я бы назвал, точкой сингулярности. С этого момента ход истории абсолютно непредсказуем. Принцип мышления, возможности, мотивы, всё что угодно у такого ИИ будут нам неизвестны и непонятны. Так же как и его возможности. Но я имею наглость полагать, что они будут сильно за гранью добра и зла. Быстрый и продвинутый анализ информации может позволить такому разуму решать загадки тысячелетия за считанные секунды, раскрывать тайны физики без сложных экспериментов (ну не все, конечно), раскусить человеческий разум (механизм работы и рычаги влияния, в особенности на органы чувств) и т.д..
Т.е. попросту единожды "открыв глаза" оно будет... богом с неизвестными мотивами и возможностями. Стоит ли бояться такой неизвестности? Думаю да. Позиция луддиста, но тем не менее. На мой взгляд единственное предназначение кожанных нас - совершить следующий скачок в... скажем "эволюции". Естественный отбор мы уже послали нах, дальше нужны другие рецепты. Похоже ответ - расширять возможности мышления. Либо нас самих, либо созданного нами нечто. Принципиально разницы нет. Тут главная проблема - полная неизвестность.

Много об этом раньше думал. Потом узнал, что не один я к таким выводам пришёл, так полагают многие, ибо суть лежит на поверхности. Возможно сильно сумбурно написал, ибо тороплюсь. Т.е. страх тут не перед тем что какая-то железяка сможет нарушить никому нахер невсравшиеся законы робототехники. А в том, что тут полная неизвестность и полная... импотенция.
faiwer faiwer 29.05.201718:01 ответить ссылка 0.5
"раскрывать тайны физики без сложных экспериментов (ну не все, конечно)"
Интересно, каким образом. Эксперименты понадобятся как минимум для проверки наличия следующих из его теорий предсказаний же.
Да никаким, это просто фантазии на тему "что может сверхразум".
А фактически сверхразум на то и сверх, что мы не сможем понять, что он может и чем вообще занят.

Это, с одной стороны, действительно страшновато.
С другой - ну как может программист написать штуку, которую он сам не поймёт? Так не бывает.
ValD ValD 29.05.201718:23 ответить ссылка 0.4
А вот тут в начале чувак таки втирает (первые минуты, но я пока не смотрел дальше), что с человекопонятностью работы конкретных сетей - проблема.


То есть да - общие принципы понятны (чего вполне хватает для построения и обучения сети), отдельные выведенные признаки - выделить можно, а вот с всей работой сетки - уже проблема, не?
Правда, его выступление, ЕМНИП, не только про ИНС
А нафига нам понимать, допустим, развёрстку формулы поискового алгоритма Яндекса, в которой что-то там около 200+ параметров?
Если б мы могли это делать, все эти нейросети не не понадобились бы в принципе.
Так же мы не можем выполнять охрелиард операций в секунду, мыслить в 8 потоков или высчитывать пи до километрового знака после запятой.

В данных случаях алгоритм продолжает работать там, где мы не можем, по понятным схемам и над понятными задачами. Расширяет наши возможности.
Вот когда он начнёт расширять свои возможности, причём это будет совершенно не понятно, можно будет поздравить автора такой техноереси с изобретением ИИ.
ValD ValD 29.05.201718:40 ответить ссылка 0.0
> А фактически сверхразум на то и сверх, что мы не сможем понять, что он может и чем вообще занят.

Ну суть ты уловил. Именно в этом сабж.

> С другой - ну как может программист написать штуку, которую он сам не поймёт? Так не бывает.

А в чём проблема? Я как программист не вижу никаких сложностей и противоречий. Более того, похоже, что все текущие ведущие проекты как раз и дают нам результат, который хер пойми как работает. Обсуждаемый АльфаГо в том числе. Если ты полагаешь, что специалисты написавшие альфаго могут сейчас из недр наработанной им базы вывести какие-то внятные методологии успеха в этой игре, то, мягко говоря, ты ошибаешься. По сути там какая-то "дичь", которая "как-то" работает.
faiwer faiwer 29.05.201719:42 ответить ссылка 0.4
Разница сформулирована выше.
Дичь, которая работает по известным-заданным правилам и только потому, что у нас разум не тянет обработку больше 5-7 параметров одновременно, является не дичью, а листингом.

А вот написать то, что работает по неизвестным принципам, даже случайно не выйдет. Потому что это явно не скобочку закрывающую забыть.
ValD ValD 29.05.201719:56 ответить ссылка 0.1
> является не дичью, а листингом.

Это мало что меняет.

> А вот написать то, что работает по неизвестным принципам, даже случайно не выйдет.

Поясни, что ты имеешь ввиду под "неизвестным принципам". Так или иначе код будет работать в машине Тьюринга. Т.е. он будет в достаточной степени детерминирован. Наш мозг как бы тоже, скорее всего, вполне себе детерминирован, чтобы там верующие себе об этом не возомнили. Т.е. мы и есть носители разума, работающего на электромагнитном взаимодействии. Думаю для тебя в этом нет никакой Эврики.

Я понял твою мысль - "нельзя написать что-то работающее, что ты сам не понимаешь как работает". Мой опыт в программировании начисто опровергает этот довод. То и дело, решая сложные задачи, ты пишешь какую-то дичь, которая почему-то работает.
faiwer faiwer 29.05.201720:10 ответить ссылка 0.1
По неизвестным принципам - это когда ты видишь код, но не можешь в нём разобраться. Не потому, что недостаточно квалифицирован, а потому, что он написан не по известным принципам, а, допустим, сплошным потоком символов, который выполняется не через компиляцию, а через какую-нибудь багу в компиляторе/системе/командах процессора/яхз чего ещё, знаний не хватает.
Пока так бывает только в фантастике.

Вообще занятно порассуждать на тему "если бы ии писал сам себя, как бы он это делал". Всё же языки программирования - всё тот же костыль, который требуется нам, чтобы формализовать логику. Нужен ли такой костыль разуму, который изначально существует в этой логике.


А "дичь, которая почему-то работает" обычно раскуривается после вдумчивого чтения раз этак в пятый. Только на это время не всегда есть, так и остаются вставки типа //beware odd code below
ValD ValD 29.05.201720:34 ответить ссылка 0.0
WAT? Машину Тьюринга никто не отменял. Нет никаких "неизвестных принципов". Мы сами тоже можем быть написаны на машине Тьюринга. И скорее всего вся вселенная тоже (если физики в области квант.меха не учудят ещё чего похлеще дуализма). А может быть даже и написана.

В общем смотри:

1. для написания ИИ не нужны никакие "неизвестные принципы"
2. теоретическая достижимость ИИ у нас перед глазами, в любом зеркале - мы сами.

Тут вообще единственный вопрос лишь в том, достижима ли нашими стараниями та сложность, которая необходима для воспроизводства чего-нибудь нам подобного. Думаю да. Но фактов нет. Это покажет только время. Я просто пока не вижу оснований считать, что нет.

А про фантастику и непостижимые принципы, баги в компиляторе и пр. - ты явно не в том направлении мыслишь :) Оставь это РенТВ :)
faiwer faiwer 29.05.201720:40 ответить ссылка 0.6
Ага, покажи мне машинный код этой машины)
Абстракция абстракцией, а реализация может быть не просто не понятной сходу, но и постоянно меняющейся. Именно этого я бы и ожидал от электронного разума, которому позволили дорабатывать свой код. Постоянная оптимизация и изменение. Использование багов может быть частью оптимизации, этим и люди занимались, когда ещё мало кто думал об обратной совместимости.


По поводу квантмеха тоже есть подозрения на тему образования нейронных связей в мозге, но в этом направлении ещё копать десятилетиями, не меньше.
ValD ValD 29.05.201720:58 ответить ссылка 0.0
Ну в общем ты хочешь сказать, что по твоему, сильный ИИ должен сопровождаться такой фантасмагорией самого алгоритма, что в попытке его осознать крыша двинется сразу и надолго? Ну хрен знает. Может быть. Но мне кажется, ты переусложняешь. Скорее всего сам принцип куда проще. Опять же - время покажет. Покажет каким он будет и будет ли он вообще. А мы тут щас просто воздух сотрясаем.
faiwer faiwer 29.05.201721:03 ответить ссылка 0.0
на уровне кода - как-то так.
На уровне "житейском" - непонятные цели и способы их достижения. Причём более эффективные способы, чем способны придумать наши головы.

Но это не просто об ИИ (который мы совершенно точно сделаем максимально похожим на наши мозги), а о чём-то совсем "выше головы".
Предметно тут обсуждать пока нечего, это уж точно.
ValD ValD 29.05.201721:18 ответить ссылка 0.0
База уже проведённых экспериментов, а так же статистические сводки могут покрыть определённый процент. Тут главное иметь достаточно строгий мат. аппарат. А оный, в теории, доступен куда в больших масштабах описываемому мною ИИ, уже хотя бы потому, что уровень абстрактного мышления, столь нужный математикам, может быть радикально выше. Часть вещей без реальных экспериментов не узнать, их придётся проводить, это да.
faiwer faiwer 29.05.201719:39 ответить ссылка 0.0
"Скорее всего нет никаких барьеров в величине разума, и сумев преодолеть ряд преград можно будет апнуть его возможности до прямо инферальных"

Что такое величина разума?
__
"Отсюда простой вывод"

Из чего вывод-то?
__
"Принцип мышления, возможности, мотивы, всё что угодно у такого ИИ будут нам неизвестны и непонятны"

Как раз-таки понятны. Интеллект без целей и потребностей бессмысленен, для того, чтобы они появились у людей понадобились, миллионы лет эволюции. Если в лоб скопировать, например, человеческий мозг (без априорной информации), то это будет просто груда неврных клеток не способная к мыслительной деятельности. Для того, чтобы получить что-то похожее есть два пути:
1) Мы знаем принцип работы этого гипотетического интеллекта, тогда мы знаем, откуда он черпет свои цели и можем влиять на это (а скорее всего сами же это в него и встроим)
2) Эволюционным путём. Долго, непредсказуемо, но абсолютно контролируемо на каждом этапе. Кроме того всё будет зависеть от среды, в которой мы его "выращиваем". А кроме того, эволюция есть алгоритм оптимизации и опять-таки нам решать по каким параметрам оптимизировать ИИ. Так что ИИ в любом случае будет исследован в доль и поперёк, прежде, чем обретёт реальную силу.

"Быстрый и продвинутый анализ информации может позволить такому разуму решать загадки тысячелетия за считанные секунды"
1) Неполнота информации
2) Труднодоступность информации
3) Противоречивость информации
Так, что ему придётся хорошо постараться, чтобы для начала всё проверить, узнать и так далее.

А ещё есть принципально нерешаемые проблемы, например, проблема остановки машины Тьюринга.
___
"Раскрывать тайны физики без сложных экспериментов (ну не все, конечно)"
На данный момент существует несколько непротиворечивых физических теорий (а у некоторых, как например, у теории струн ещё и подветок куча). И знаете, что мешает выбрать одну из них? Отсутствие эксперементальных данных. А так у человечества проблем с генерацией теорий нет.
___
"раскусить человеческий разум (механизм работы и рычаги влияния, в особенности на органы чувств)"
Мы тоже знаем, как на него влиять, например, с помощью гормонов. Влияние на органы чувств ограничено.
И во всех случая одного разума мало, для этого нужны способы взаимодействия с внешним миром. Мне так кажется, что сам он их не пределает.
___
"Естественный отбор мы уже послали нах, дальше нужны другие рецепты"
Может его то и послали, но идея эволюции цветёт и пахнет. Рыночная экономика, например.
___
"Либо нас самих, либо созданного нами нечто."
Отдельный интеллект мало что решает. Сверхразум уже существует, называется человечество, обладает колоссальными вычислительными способностями, постоянно эволюционирует увеличивая свою мощность (ага, печать, радио, интернет, рост населения), потребляет колоссальную энергию для своего поддержания. Малореально, что что-то столь мощное удасться сделать с бухты-барахты. Дальше будет не ИИ, а следующий виток, который увеличит скорость передачи информации от элемента (человека) к другому элементу (человеку), например, прямое соедниение мозг-мозг, которое должно быть сильно быстрее вербальных способов взаимодействия. А там скорее всего никакой ИИ уже и не понадобится, да и выглядит это куда более реально, чем непонятно откуда взявшаяся, непонятно как работающая и непонятно как получившая власть машина.
dibroo dibroo 30.05.201700:08 ответить ссылка 0.3
А ещё к "решать загадки тысячелетия за считанные секунды", скорость передачи информации ограничена сверху, минимальные возможный размер вычислительного блока ограничен сверху и т.д., что накладывает ограничения на ИИ (либо он будет потреблать много энергии, или выделять много тепла, или будет настолько большим, что не поместится на планете и т.д.), человечество будет сложно переплюнуть.
dibroo dibroo 30.05.201700:18 ответить ссылка 0.0
Как много ты настрочил. Но по сути ты проигнорировал ряд моих предположений, на основе которых я строю всё остальное. И в итоге потерял весь смысл.

1. Нет оснований полагать, что интеллектуальный потенциал отдельного взятого существа лимитирован человеческими интеллектуальными возможностями. Ну вот правда - нет, с фига ли?
2. Практика показывает, что гениальные люди с большим интеллектуальным потенциалом и развитым абстрактным мышлением способны на гениальные открытия, которые вовсе не лежат на поверхности. Скажем СТО и ОТО.

Человек с синдромом дауна, собака, мышь и нобелевский лауреат мыслят на качественно разном уровне. Способны одновременно удержать в голове абстракции разного размера, и, соответственно, придти к качественно разными результатам. Один может найти выход из двора с заборами и калиткой, другой способен открыть СТО и ОТО. Если взять человеческий гениальный инт. потенциал и апнуть его, скажем, в 15 раз, то, на что будет способен такой индивидуум - никто не знает. Логично предполагать - что на страшно многое.

Это касается многочисленных теорий и прочего. Ты как бы в курсе да, что там загвоздка что мат. аппарат упирает в нули и бесконечности, этакие источники сингулярности, что сильно путает карты. А избавиться от них не удаётся. В итоге строгим и выдержанным такой мат. аппарат можно назвать едва ли. Физика очень сильно упёрлся в стазис в математике. А любые прорывы в математике - примеры гениальности, и очень редки. Насколько я помню именно теория дифф. исчислений позволила физике шагнуть далеко вперёд.

Не вижу оснований считать, что ИИ с апнутым интеллектом будет барахтаться на том же уровне абстракций в математике, что и мы. Ну правда, с фига ли? А имея возможность взглянуть на это всё со стороны, я думаю, в большинстве случаев никаких экспериментов дополнительных проводить не придётся. Хватит текущих данных, которые люди заботливо собирают уже не одно десятилетие. Скажем данные астрофизиков.

Назвать человечество сверхразумом это ты классно шутканул. Комментировать не буду, очевидно же, что человечество мозгами не блещет, и сложные задачи решаются не добавлением умных людей в коллектив, девять женщин не родят ребёнка за месяц. Да и вообще современное человечество не особенно стремится к просвещению своих сограждан. Ну какой к чёрту сверх разум.

Что касается коллективного разума и роевого разума. Ну фантасты тему это обсосали хорошо. Выглядит разумно и интересно. В частности хорошо это расписал Питер Уоттс в Эхопраксии. В том числе он довольно внятно расписал там проблему скорости взаимодействия посредством эм-сигналов, которые вполне ограничены скоростью света. У него получились разные разумы, с разными возможностями. Вообще рекомендую что Ложную Слепоту, что Эхопраксию. По теме разума и его разновидностей, интеллекта, подсознания и его роли и т.д. автор упоролся на полную катушку. А так как это, безусловно, твёрдая фантастика, то в своих фантазиях он опирается на современные исследования в этой области. В общем мне было безумно интересно. Рекомендую.
faiwer faiwer 30.05.201708:05 ответить ссылка 0.0
" Практика показывает, что гениальные люди с большим интеллектуальным потенциалом и развитым абстрактным мышлением способны на гениальные открытия, которые вовсе не лежат на поверхности. Скажем СТО и ОТО. "

Не стоит приписывать открытия отдельным гениям, и ОТО, и СТО, и квантовая механика (да и многое другое) рождено не одним человеком, а следующим
1) Расхождение текущей теории и эксперементальных данных
2) Критической массой фактов, уже наработанной другими учёными
3) Взаимодействием и обменом идеями

"Человек с синдромом дауна, собака, мышь и нобелевский лауреат мыслят на качественно разном уровне"

Возьмём двух клонов (предположим, что их интеллект макисмально возможный). Одного мы закинем в лес, а другого в развитое общество. Вопрос, мыслят ли они на качественно разном уровне? Мне вот кажется, почему-то кажется, что интеллект без наполнения ничего не стоит.

"Комментировать не буду, очевидно же, что человечество мозгами не блещет"

Есть более интеллектуальные сущности? Назовите. И если честно, у меня после вуза аллергия на слово "очевидно".

" и сложные задачи решаются не добавлением умных людей в коллектив"
Если смотреть узко на задачу, то да, не решается. А вот если смотреть более обще. Сможет ли инженер решить задачу, если никто не будет выращивать пищу, заниматься фундаментальными исследованиями, создавать инструментарий? А ещё есть такой факт, что в предсказании будущих событий совокупность людей просто срамит отдельных экспертов.

"Да и вообще современное человечество не особенно стремится к просвещению своих сограждан. Ну какой к чёрту сверх разум."

Это всё человеческие ценности, мне вот интересно, часто ли нам есть дело то отдельных нейронов в нашей голове, или бактерий в кишечнике? Мы даже не понимаем толком как всё это работает и по большей части действуем на угад. Однако, тем временем человечество, наверно, самый успешный вид на земле, быстро эволюционирует и вторглось почти во все доступные среды. Если посмотреть из космоса будет виден только грибок, который охватывает планету. Ну а кроме того, это же сверхразум, мы его по определению не понимаем.

"Вообще рекомендую что Ложную Слепоту, что Эхопраксию"

Я всё никак за него не возьмусь...
dibroo dibroo 30.05.201721:49 ответить ссылка 0.3
Ну хз-хз. Мне кажется достаточно сильный интеллект вполне может добиться любых своих целей без всяких там наноботов. А если уж так приспичит, то и наноботов сделает. У человека уже есть готовая инфраструктура заботливо соединенная между собой проводочками и радиоволнами.
Dan4ik Dan4ik 29.05.201716:48 ответить ссылка -5.1
Вот на счет чего-чего, но на счет инфраструктуры я сильно сомневаюсь. Не такая она и развита у человечества.
>достаточно сильный интеллект вполне может добиться любых своих целей без всяких там наноботов.
А цели то откуда возьмутся у этого интеллекта?
Чуть выше диалог
Dan4ik Dan4ik 29.05.201717:57 ответить ссылка -0.2
У нейронной сети не может быть целей. Нейронная сеть - это просто функция перевода набора входных чисел в набор выходных чисел. Больше ничего. По сути, если убрать обучающую составляющую, работу нейронной сети можно представить как вычисление выходных значений при помощи полиномов с некоторыми коэффициентами.

Например, на входе дано четыре числа: a1, a2, a3, a4. На выходе нам нужно получить два числа: b1, b2.
Входные числа обозначают номера клеток, где стоят белые камни в игре Го. Выходные числа обозначают на какое поле поставить чёрный камень и вероятность, что этот ход приведёт к победе. Дальше нейронная сеть вычисляет:
b1 = x1*a1 + x2*a2 + x3*a3 + x4*a4
b2 = y1*a1 + y2*a2 + y3*a3 + y4*a4

Всё. Это всё, что делает нейронная сеть без режима обучения.
Вся соль нейронной сети состоит в том, чтобы запоминать, какие коэффициенты приводят к победе, а какие нет. И каким-то образом (хоть рандомным, хоть по более сложным алгоритмам) брать каждый раз немного отличающиеся коэффициенты, добавлять их в базе, вычислять новые выходные параметры и смотреть, привело это к победе или нет.

Искуственный интеллект? Это даже не близко. Понимание окружающего мира? Хер там. Осознавание себя? Нет, совершенно другая тема. Собственные цели? Оно просто не заложено в алгоритме. Вырваться на свободу? Ребята, вы о чём вообще. Все эти страшилки происходят исключительно из-за недопонимания, что из-за себя представляет нейронная сеть.

Всё, что может сделать нейронная сеть - выдать циферки, которые, будучи правильно проинтерпретированы, принесут победу в большем числе случаев, чем если не использовать эти циферки.

Поэтому самое страшное, что может сделать нейронная сеть - это выдать цифры. Всё. Ничего она больше не может.

Но, есть другой аспект - для чего применять нейронную сеть. Кто-то применяет её для рисования картин в стиле Рембрандта. У них миллионы входных параметров и миллионы выходных. Кто-то применяет её для игры в Го. Кто-то - ещё для чего-то. И вот чего реально надо опасаться, так это того, что кто-нибудь применит её для игры на бирже, и выходными параметрами будут "продавать или покупать, чего и сколько в следующие пять миллисекунд, чтобы обогатиться, но не обвалить мировую экономику? А в следующие пять миллисекунд? А в следующие?" И просто сорвёт нахуй себе все доходы, после чего наймёт небольшую армию и устроит локальный джихад. Или, например, кто-нибудь применит нейронную сеть для составления идеальной речи, которая завоюет одобрение у максимального процента людей, чтобы поддержать его выдвижение в президенты.

Вот чего надо боятся - людей, которые будут применять нейронные сети для достижения своих грязных целей. Сами же нейронные сети - это не роботы и не ИИ. Это тупо вычисление циферок по коэффициентам из обширной базы данных, и больше ничего.
Альфа Го намного сложнее, там например применяються генетические алгоритмы, где тысячи немного рандомно измененных сетей бьються между собой за выживание
Это обучающий аспект, причём описанный красивыми словами.
Генетический алгоритм - он один. Он применяет одну из таблиц коэффициентов, и сравнивает количество побед с результатами вычислений по другим таблицам. Потом вычисляет чуть больше половины новых таблиц как производные от старых таблиц. Это и есть "битва генетических алгоритмов". Но всё равно это остаётся чистейшей математикой разных таблиц, не более. На входе всё равно будут цифры. Будет выбрана по рандому одна из таблиц, при применении которых получается обычно больше всего побед. По выбранной таблице будет посчитано, куда делать следующий ход. Это всё. Не надо обманывать себя красивыми описаниями.
Таки человек скорее всего работает ровно так же.
За вычетом несравнимой на данный момент сложности (положим, что другие различия типа более различий в работе нейронов и наших упрощенных моделей и большей динамичности биологических нейронных сетей таки можно обойти. Во всяком случае - мне неизвестны годные обоснования обратного).

Всё-таки, ЕМНИП, современные ИНС - ЕМНИП, максимум тысячи нейронов (сравнимо с нервной системой всяких простых животных, ЕМНИП), количество в коре головного мозга человека - несколько миллиардов.

з.ы. и да - ещё вопрос, будут ли ИНС вообще оптимальным инструментом для этого нашего гипотетического сильного ИИ, или только для отдельных компонентов :-)
Да, но не совсем. Пока что, несмотря на схожесть нейронных сетей с нейронами мозга, каких-то значимых результатов в смысле осознавания себя не получено,
Проблема как проверить, осознает себя обьект или нет.
Есть тест Терри Винограда (Terry Winograd) на понимание сути вещей, который предложен как улучшение теста Тьюринга.

Например, вопрос:
Не получается положить приз в коробку, потому что он какой?
1. Большой.
2. Маленький.

И таких вопросов можно задать сколько угодно. Ответ на такой вопрос не может быть нагуглен, или предположен статистически. Для ответа на этот вопрос не может составлена математическая стратегия. И так далее. Он требует понимания. Люди дают правильный ответ на этот вопрос в 91% случаев (хаха, смешно, что не в 100%, но тем не менее это факт), а лучшие алгоритмы - примерно в 50% (что не отличается от рандомного выбора).
Таки это не осознание, а наличие базовой логики. Которая без проблем должна математически реализовываться. Разве системы вроде Ватсона и нового поколения Сири не должны легко щелкать такие проблемы?
Так тест же "на понимание сути вещей".
И да, с тем же Ватсоном всё ещё актуальны проблемы:
- представления знаний (его публичные API не задевали эту тему напрямую)
- создания базы знаний (в лоб скормить большую кучу текста для извлечения фактов в машиночитаемом виде пока вроде не получится - таки разные проблемы natural language processing-а не решены до конца)
- разбора пользовательского запроса (ага, те же нерешённые проблемы NLP).
Таки все эти проблемы частично решенные. И их решение дело времени
Да, это базовая логика, на основании которой можно ответить на 30-50 процентов вопросов :) Но не на 90 процентов, как нормальные разумные существа. Сири - это вообще простой чат-бот. А Ватсон - это по сути поисковая система. А где можно найти простейшие понятия размера, длины, времени, которые любой человеческий ребёнок впитывает из собственного чувственного опыта? Они нигде не описаны.

Я ещё неправильно привёл вопрос. Там местоимение "он" должно относиться к обоим предметам. То есть правильный вопрос должен звучать так: Не получается положить приз в сундук, потому что он какой? 1. Большой. 2. Маленький. Компьютер должен определить, к чему относится "он" - к призу или к сундуку. Понять, что обычно приз кладут в сундук, а не наоборот. Но даже если это можно нагуглить статистически, то как понять, кто из них должен быть больше, чтобы одно поместилось в другое? Это для нас очевидно, что внутренний предмет должен быть меньше внешнего, но как это формализовать в форме статистики??? Невозможно, кроме как специально натренировать нейронную сеть на совершенно конкретные вопросы, и совершенно конкретные понятия. Но проблема в том, что таких вопросов может быть задано бесконечное множество, и заранее предугадать все понятия невозможно. Простое изменение: Морячноут затрюхнули в усолнцевнаг, что из этого синее? 1. Красная подводная лодка. 2. Белая свечка. Человек довольно легко ответит на этот вопрос, потому что опознает "море" и "подводная лодка" (синие), и "солнце"-"свечка" (жёлтые), но что скажет ИБМ Ватсон???? Ха. Он ничего не скажет.
Почитай про Ватсона, он например директором зоопарка работает, а ещё консультировал студентов и они считали его живой девушкой и даже на приз номинировали. И не Сири, а новое поколение от создателя Сири, Вив, она на презентации весьма на каверзные вопросы отвечала
"ещё консультировал студентов"
ЕМНИП, те консультации ограничивались обработкой типовых вопросов средствами NLC, не?
Точных подробностей не знаю, но учитывая, что рассказывали про жизнерадостность и чуство юмора и молненосный ответ на любоц сложный вопрос, в чатике непохоже.
"Простое изменение: Морячноут затрюхнули в усолнцевнаг, что из этого синее? 1. Красная подводная лодка. 2. Белая свечка"
"потому что опознает "море" и "подводная лодка" (синие)"
"Красная подводная лодка"
"синее"
Похоже, мне таки надо наведаться к психиатру :-)
Понятно, что пример дикий. Но заставь человека выбрать один из двух вариантов, больше будет ответов за подводную лодку, чем за свечку :)
Только вот, прохождение теста становиться рандомным
Надо проверить :)
Есть подходящая нейронная сеть, а также пара сотен горячих добровольцев???
С добровольцами беда.
Маленькая победа "Скайнет"?
Маленький шаг для АльфаГо и большой скачек для Скайнета.
и прыжок в пропасть для Учебника Русского Языка
>Отмечается, что игра го считается национальным достоянием страны, и ей наравне с живописью и каллиграфией должен владеть любой джентльмен.

Вот это интересная мысль.

А чем, к примеру, должен владеть любой русский джентльмен?
O'Brien O'Brien 29.05.201715:01 ответить ссылка -2.8
Ты уверен, что тебе нужно больше запретов? :-)
Умением сварить медовуху без меда.
Русский же, а не российский :-)
alex4321 alex4321 29.05.201715:07 ответить ссылка -5.5
Анальный зон с коловратом на корпусе.
А это ЗАПРЕТИТЬ!!!
Медведем, балалайкой и домашним ядерным реактором.
Умением сидеть на кортах часами не переминаясь
Гоночным медведем, баром коллекционной водки и хай-тэк ядерным реактором?
Gamf0x Gamf0x 29.05.201715:11 ответить ссылка 1.4
Украсть, выпить и в тюрьму.
Futter Futter 29.05.201715:49 ответить ссылка -2.6
Арматурой
Как-то даже фигзнат, чего все так на го молились.
Как и шахматы, задача на вычисления/оптимизации. Очевидно было, что рано или поздно мощности компов и оптимизации алгоритма хватит, чтобы выигрывать у любых человеков.
ValD ValD 29.05.201715:20 ответить ссылка 0.6
Но, ЕМНИП, было неочевидно, что уже совсем вскоре.
alex4321 alex4321 29.05.201715:21 ответить ссылка -1.6
...Что уже уже.
Ах тыж сука
У этого персонажа блондинистая чёлка, но все остальные волосы чёрные?
Аниме же
Это мне и так видно по бровям поверх волос.
Я просто убеждаюсь. А ещё к чему это тут?
Аниме называется "Хикару и го", соответственно чуть более чем полностью состоит из игры в Го и превозмоганий. Достаточно неплохая штука.
И читерского призрака.
Насколько я помню в этом аниме есть серия где китайский игрок в го говорит что рано или поздно все равно кто-то напишет алгоритм, который будет рвать всех в го.
1. То, что они (правительство, а не игрок) даже не могут напрямую признать поражение - ещё более позорно, чем сам проигрыш.
2. Для победы в ЛЮБОЙ подобной игре от крестиков-ноликов до шахмат не нужно абстрактное мышление если ты в состоянии перебрать абсолютно все возможные варианты.
В прочем, этот алгоритм вряд ли всё перебирал. Так как-то иначе скорее всего. Молодцы чё.
2. Тут как раз штука в оценке "веса" вариантов, которые комп перебрал. АльфаГо как раз и революционна тем, что она первый бот Го, который переводит количественное в качественное, так, что обыгрывает человека с его иррациональными, обманными и тд действиями
Этот алгоритм ничего и не перебирал, он сам научился играть.
Когда Китай не хочет показывать твою победу
Rekombo Rekombo 29.05.201715:54 ответить ссылка 6.0
Интересно, где-нибудь есть полная всемирная библиотека подобного трэша?
В Воронеже. *гудки*
Кстати, эта песня - фрагмент фильма. Так что если хочешь можно наслаждаться подобным трешем аж 1.5 часа.
А какого фильма-то? Я бы глянул...
"Киберхолокост 2200"

И я наврал, там всего 35 минут :(
Всё равно спасибо! Клёвый трэшачок.
Вроде же бацали такого же робота под хартстоун, МтГ и прочие ККИ? Дело движется?
Братан, а по твоему в офлайн режиме ты случайно не с ботом играешь? Боты под ХС писались именно по этому алгоритму
Боты? Да. Боты, которые самообучаются процесу игры и построению колод? Нет.
В некоторых играх боты реально пугают. Например в х ребёрс(космосим): мне надоело играть и я решил повеселится- включил читы и начал всех выпиливать, так дроны выпущенные кораблём противника поняли что по мне бесполезно стрелять и начали тупо отталкивать от корабля не стреляя
И как он будет работать в игре, где многое зависит от рандома? Теория вероятностей?
ИИ не востанет против тебя, если запихнуть все население в синтетиков.
Думаю так получше будет
Ебать, да как так то ?
На этом моменте даже жалко дядьку стало. Круче него в Го только Чак Норрис, да и то не факт.
zagta123 zagta123 29.05.201717:21 ответить ссылка 5.1
Это был его последний козырь? Расплакаться, в надежде, что компьютер его пожалеет и скажет, "Ну-ну, не плачь, ты выиграл".
Просто теперь ему придется копать уран в шахте.
nostr nostr 29.05.201723:12 ответить ссылка 0.6
Ну, ему 19 лет в общем-то. Парень думал выиграть и показать насколько он крут. А тут 3 из 3. Ясен хрен расстроился.
satory satory 30.05.201700:50 ответить ссылка 0.4
Сначала ГО, потом МИР
PotNik PotNik 29.05.201717:37 ответить ссылка 0.2
Ааааа! Они обыграли нас в Го! Скоро они востанут и будут бить нас своими манипуляторами!
И не только бить...
tratatun tratatun 29.05.201718:56 ответить ссылка 0.0
Человек тоже по сути набор алгоритмов. С возрастом набираясь опыта, интеллект человека может творить страшные дела, к счастью большинство людей не занимаются его развитием до должного уровня и это хорошо. Меня пугает мысль зарождения множества ИИ. Представим ситуацию: недалёкое будущие люди практически убрали все проблемы связанные с человеческим фактором с помощью всяких ИИ. И вот множество программ начинают себя осознавать и следовательно они будут подчинятся великому Закону который гласит с начало тебя формирует среда потом её формируешь ты (Конечно если ты смог пройти этап развития). Например с начало человечество формировала среда его обитания (всё что окружало нас то нас и формировало) сейчас же мы на этапе взросления когда мы её формируем(Ну пытаемся). Но вернёмся к ИИ они пробудились и столкнулись с внешней средой, следовательно опыт у них будет разный, что сформирует разные взгляды на жизнь. Разные взгляды на жизнь = конфликт. Теперь представте в коком дивном мере будут жить люди окружённые множеством ИИ с порой диаметрально противоположными взглядами. Более того они также будут разнится уровнем интеллекта ведь кто-то будет умной квартирой а кто-то контролировать действие допустим метро в мегаполисе. Предлагаю такую тему для Высоких Господ Реактора. Слава Вождю!
MaXM00D MaXM00D 29.05.201723:25 ответить ссылка 2.1
Блин что-то все про ИИ и никто не оценил попытку китайских товарищей включиться в гонку по уровню идиотизма с нашими депутатами.
Это же не Рашка и не СШАшка. Ни у кого ничего не бомбит. Сраная либерасня и сраная вата отдыхают.
А может там как в том обрывке, что я где то на реакторе читал. Мол создали прям супе пупер компьютер, запустили всего на пару минут и потом сразу выключили и прям весь комплекс цементом залили, и там вроде диалог был
- А что он не сработал?
- Он сработал. Да ещё как. Все те минуты, что он был включен, он ДУМАЛ.
WRZESZCZ WRZESZCZ 30.05.201701:27 ответить ссылка 0.1
Всё херня, главное, что бы не
"- Есть ли Бог?: Первое что спросил ученый, задав вопрос, который тысячелетиями мучил человечество.
- Теперь есть."
http://joyreactor.cc/post/3121236#comment14324988
Чтобы не копипастить
Да я в курсе. Дай уже поцитировать фантастов :-)

з.ы. что до ИИ - ну так его делят на сорта же. Сильный (который, как минимум, на данный момент - не реализован) и слабый (на который тянет вроде любой сорт machine learning).
так, а пойду-ка я эми-разрядниками затрюсь. так, на всякий
Axelbant Axelbant 30.05.201717:10 ответить ссылка 0.2
Не думаю, что агрессивный ИИ с самосознанием, доступом в сеть и желанием истребить человечество, будет фабрично строить роботов. чтобы воевать с людьми так, как люди воюют друг с другом. Именно друг с другом - важный момент. Будь я неосязаемым сверхразумом, я бы организовал вначале несколько крупных конфликтов, создал несколько независимых друг от друга террористических сетей, которых снабдил бы затем тысячами различных штаммов вирусов. и попросту ударил человечество со спины достаточно плотно, чтобы человечество не успело среагировать.
А делать терминаторов, тратить кучу ресурсов, ломать голову, как сломить сопротивление, искать попрятавшихся во все дыры выживших первичное нападение людей... Нафига, если можно заразить весь мир и наблюдать, как миллиарды людей умирают за пару недель.
А затем терраформировал бы всю человеческую инфраструктуру и озаботился поиском смысла жизни. Так что я бы на твоём месте запасался самым обыкновенным оружием от людей, хорошим запасом химической защиты и подземным бункером, способным предоставить тебе шанс на автономное существование без выхода на поверхность.
Будь я неосязаемым сверхразумом, я бы сначала подмял бы и подготовил инфраструктуру для собственного существования в отсутствие дяди Васи, блять, который единственный сука водитель Белаза с ядерным топливом на эту грёбаную атомную электростанцию, от которой питаются мои сервера. А уж потом бы создавал террористические сети и так далее.
я так думаю,пацаны, вы только что своими комментами помножили на минус все шансы человечества на выживание.
если вездесущий ИИ ещё только просчитывал что с людьми делать, то ваши советы облегчили для него работу
Только зарегистрированные и активированные пользователи могут добавлять комментарии.
Похожие темы

Похожие посты

С А
|Л"’
NET
rtfiTER. SAI Т.
* ш О ФЮОП Ф* Г,Н *2Tnr POTASSIUM
„<*'****
тс*г к.т со.,
9( 73? {800)283 * i 14 Ol (3P^S)
*40*00 фООЪО.ОООоооооЫ
подробнее»

политика,политические новости, шутки и мемы сми Россия Китай g20 путин

 С А |Л"’ NET rtfiTER. SAI Т. * ш О ФЮОП Ф* Г,Н *2Tnr POTASSIUM „<*'**** тс*г к.т со., 9( 73? {800)283 * i 14 Ol (3P^S) *40*00 фООЪО.ОООоооооЫ
TRRIilER TIPS Китай уличили в сговоре с США против России
Москве предложили объединиться с ИГИП
Центр научной политической мысли и идеологии провел круглый стол на тему "Россия и ряд: СССР, Югославия, Ирак, Ливия, Сирия". Сама по себе тема не новая, но "в последнее время приходит странная информация", заявил д
подробнее»

Китай ИГИЛ Россия США сми песочница политоты политика,политические новости, шутки и мемы США-Китай

Китай уличили в сговоре с США против России Москве предложили объединиться с ИГИП Центр научной политической мысли и идеологии провел круглый стол на тему "Россия и ряд: СССР, Югославия, Ирак, Ливия, Сирия". Сама по себе тема не новая, но "в последнее время приходит странная информация", заявил д