Подробнее
V '■.г ) л Милена Митина @_плагз1 немного достали бесконечные рассуждения про угрозы от искусственного интеллекта, можно подумать, с естественным интеллектом все в порядке
twitter,интернет,интеллект,ИИ
Еще на тему
twitter интеллект ИИ
Подробнее
V '■.г ) л Милена Митина @_плагз1 немного достали бесконечные рассуждения про угрозы от искусственного интеллекта, можно подумать, с естественным интеллектом все в порядке
twitter,интернет,интеллект,ИИ
Подробнее
V '■.г ) л Милена Митина @_плагз1 немного достали бесконечные рассуждения про угрозы от искусственного интеллекта, можно подумать, с естественным интеллектом все в порядке
twitter,интернет,интеллект,ИИ
!['-.Л V 1
u ■ у Ш ' \](http://img1.reactor.cc/pics/thumbnail/post-5878189.jpg "'-.Л V 1
u ■ у Ш ' \")
Полноценный ИИ - самообучается и развивается как человек, но в over 9000 раз быстрее и эффективнее, тут уж никто не знает что взбредет в голову сверхрациональной, сверхразумной машине имеющей самосознание.
И с чего бы ему стремиться к состоянию покоя, если его пилили не для достижения покоя (для этого не нужен ИИ), а для работы на людей?
ну вообще конец поставленной задачи надо как-то определять
по сути достижение цели эквивалентно достижению этого самого состояния покоя, не?
if (true == isCrazyMurderingRobot){
Опечатка вида if (true = isCrazyMurderingRobot){ посто нескомпилится.
if (isCrazyMurderingRobot) {
? Так и читается проще.
Также представляется весьма возможным, что появится сверхинтеллект, единственной целью которого будет нечто абсолютно случайное вроде максимизации производства скрепок, и который будет всей своей мощью сопротивляться любой попытке изменить эту цель. [Такой ИИ] сначала придет к трансформации всей Земли в фабрику по производству скрепок, а затем займется постепенным превращением в такую фабрику других частей космоса», – писал Бостром."
Но металл (и даже полупроводники) пока, к сожалению, силён - но туповат :-)
Нейронные сети не ИИ, это математическая модель, которую можно использовать в ИИ.
"Во вторых люди пишут сложный софт, который анализирует "что там себе наобучалась" нейросеть"
Если честно, то тут бред написан какой-то. Какой ещё софт для анализа "что там сеть наобучалась". 99% анализа результата - просто прогнать на тестовом наборе данных.
Самый сложный софт в НС - распараллеливание вычислений на видеокартах (да это даже не для НС, а для символьных вычислений). Всё, на этом сложное программирование в НС кончается.
Для понимания нейронных сетей достаточно знать:
1) Производные
2) Немного линейной алгебры
3) Теория вероятности (максимум первый курс университета)
Для продвинутого можно ещё Выч. Мат какой-нибудь послушать.
Для работы даже это не обязательно.
Не надо обучаться на тестовой выборке, надо на обучающей.
Но да, если неправильно подходить к эксперименту - можно и под тестовую подогнаться :-)
Знаю я ребят, которые вот внезапно, в нашем 2018 так и сделали (там несовсем очевидный ньюанс правда был, ну да ладно). И опубликовались в CVPR.
Причем нагло отрицали это, у меня с ними длинный тред был. Но после правильно поставленных вопросов таки признались, что да.
А дело было так (я подозревал, что они что-то не то сделали, ибо результаты у них подозрительно хорошие). Спрашиваю, как вы на test и train сеты разбивали (а в стаье это и не написано). Никакого вменяемого ответа не получил. Спрашиваю, у вас test и train разные же, правда? Говорят, да мол разные конечно.
Спрашиваю, а inlier, вы как-то разбивали на test и train? Говорят, что нет, одни и те же inlier'ы использовали. Спрашиваю, а чего же вы тогда говорите, что test и train разные? Ответ:
Ну как чего, в train нету outlier'ов, а в test есть!
но все наверн догадались
А вот так нс видит гантель:
Ну, я это видел. Нейронной сети нужно было научиться опознавать модель автомобиля по фотографии. Сеть не работала на машинах "сзади". Так вот, проблема была, что в выборке только вид спереди и чуть сбоку были.
>> Если честно, то тут бред написан какой-то. Какой ещё софт для анализа "что там сеть наобучалась". 99% анализа результата - просто прогнать на тестовом наборе данных.
Ха! Как бы не так. Есть целое направление Explainable AI
>> Самый сложный софт в НС - распараллеливание вычислений на видеокартах
Не сложный, а труднозатратный в написании. Ничего там наукоемкого нету, просто очередная горсть инженерных задач. Вон тут этих фреймверков развелось, tf, pytorch, theano, cafe, cafe2, chainer.
>> Всё, на этом сложное программирование в НС кончается.
В программировании да, заканчивается, но мы не о программировании говорим. Там много очень сложных вещей, на которых куча людей головы ломают.
>> Для понимания нейронных сетей достаточно знать: ...
У вас данные устарели, так было 30 лет назад. Сейчас уйма всякого нового пойвилось, и каждый год все больше.
Кончено, все завасит от того, стоит ли задача обучить очередной классификатор (тут и школьник справится без знаний матана) или нужно решить новую, нетривиальную задачу.
>> 99% анализа результата - просто прогнать на тестовом наборе данных.
А если нету данных, которые бы соответствовали реальным? А если реальные данные попросту неизвестны? В последний год наплодилось куча направлений: Anomaly Detection, Novelty Detection, Openset problem, Out-of destribution detection
Но в критичных ситуациях могут контролировать, принимать ли найденное решение.
Да и по части визуализации их работы, ЕМНИП, есть подвижки.
а с ии еще прикольнее, мы можем ваще не понять то решение, которое он там придумал
дали ему задачу озеленить сахару, например, он говорит, типа надо 9000 шаманов чтобы сплясали по периметру. вроде и хуйня какая-то, а вроде он суперинтеллект, не лажал ни разу. придется или верить или нет, а еще можно молиться, поститься и слушать радио радонеж
Тут, кажись, завели речь за вещи посерьёзнее (для окружающих) потери небольшого числа людей (кто-то в массовое поражение ударился, кто-то в наёбывание экономики).
"дали ему задачу озеленить сахару, например, он говорит, типа надо 9000 шаманов чтобы сплясали по периметру. вроде и хуйня какая-то, а вроде он суперинтеллект, не лажал ни разу."
Да, неплохо бы, чтобы построение им выводов было человекочитаемым.
Такое чтение, конечно, тоже будет затратным во времени - но врядли больше разработки технологии силами людей (если он на кой-то хрен не изобретёт в процессе свою алгебру с блекджеком и шлюхами).
"придется или верить или нет, а еще можно молиться, поститься и слушать радио радонеж"
Молиться ИИ и слушать его радио (а не какое-то там радио Радонеж) же :-)
тока для лучших умов человечества они будут как доказательство последней теоремы Ферма для первоклассника
И так же как никто не дает обычному компьютеру задачу "исцели рак", никто не будет давать такую задачу ИИ. Руководящие исследованиями в этой области специалисты будут давать ИИ специфические для этой области задачи, которые ни они сами, ни обычные суперкомпьютеры решить не в состоянии, и на основе результатов будут продолжать свои исследования по поиску лекарства.
Если кратко: ИИ не решает и никогда не будет сам решать проблемы, люди используют ИИ для решения проблем, как сейчас используют обычные компьютеры.
P.S Очень забавно, когда человек с рассуждениями на уровне обычной домохозяйки называет других идиотами.
при этом вряд ли его можно будет запрограммировать, а придется мотивировать, придется с ним договариваться
а еще мы можем легко оказаться на месте муравья, который пытается договориться с человеком, решившим построить дом над его муравейником
если будут, а еще хуже, если они смогут бесконтрольно самозародиться, то это несет в себе опасность
у младенца тоже не особо много целей, чтоб титька была и сухо чтоб было, потом как-то появляются сами
А вот софт может имитировать подобный механизм. Вопрос только - нахуя?
Сам софт вполне может "чувствовать" перегрузку. Нужно лишь добавить перегрузку как отрицательный мотиватор. И логику попыток поиска оптимальной стратегии действий для избежания суммарно максимального количества нежелательных последствий.
Физиологическая усталость - датчики износа, хотя, скорее, нагрева, например. Голод - топливный датчик, или заряд батареи.
Программе тоже можно добавить мотивацию. И неприятные ощущения, которые следует минимизировать, с учетом оченки последствий(т. е. вероятных неприятных ощущений в будущем от определенных действий, по самым вероятным прогнозам). Мы ведь действуем именно так, и то, у многих прогнозы страдают.
это будет оружие покруче ядреной бомбы
не нравятся мне вот отдельные группы людей, и вот у меня есть ии. еее, геноцид!
Интеллект - это средство решения задач. Предполагаемый сильный Искуственный Интеллект будет обладать всеми возможностями человека, и еще сверху. Это не примитивные нейронные сети с заточкой на определенную область, это совершенно иной уровень. Вся задача Искусственного Интеллекта в том чтобы эмулировать Интеллект. Не вычислительную мощность, но Интеллект. Разум. Способность решать задачи. Не существует Искуственного Интеллекта без возможностей решать задачи. Причем решать их гибко, используя обходные пути и собственные выводы — иначе он был бы не нужен.
Но даже это управление, как и пищеварение, управляется нашим "биосом", расположенным в спинном мозге в основном. К некоторым функциям есть доступ из мозга. Например, дыхание(оно автоматическое, но мы можем перехватить управление им), или сфинктер прямой кишки или уретры(а у некоторых животных этого доступа нет, в основном у травоядных; нам управление этими мышцами досталось от предков-полухищников, которым нужно было мочой и калом либо оставлять свои следы, либо, наоборот, скрывать).
Хуже разве что то, что наоборот, инстинктивно-гормтнальная система оказывает влияние на высшую нервную. Например, сексуальное влечение, или вынашивание ребенка сильно меняет нашу мотивацию и поведение.
Есть и истинные костыли. Когда мозг анализирует возбужденность, он делает это по датчикам напряженности мышц(!). При том, что управление напряженностью смешанное, т. е. и прямое, и гормональное. На этом основано действие успокоительных-миорелаксантов, которые расслабляют мускулатуру, отчего мозг успокаивается.
Очевидно же - впили ей возможность перебора решений и оставь выбор за собой, как в порологе от семидеятых (образно, конечно) :-)
А, и ещё - почему ты думаешь, что управление пуском ЯО стоит доверять чему-то кроме людей (да и то с кучей условий) и элементарной автоматики?
"Окей, мы добавляем правило ИИ, что он должен исцелить рак таким образом, что ни один человек не умрет в результате действий ИИ. ИИ предсказывает, что если он исцелит рак, один из исцеленных людей оказывается убийцей психопатом и вырезает свою семью. Человек умер "в результате действий ИИ", значит этот способ лечить рак не подходит, значит ИИ просто вырубается ничего не сделав."
Кто сказал, что нас интересуют последствия дальше чем, непосредственно, шаг с лечением? Впрочем, в свете первого - последствия значения не имеют, мы же выберем приемлемый вариант сами.
"Окей. Что насчет "Пусть ИИ исцелит рак теми методами, которые хотели бы люди". Да без проблем. Перед ИИ снова стоит дилемма. Что проще — на самом деле исцелить рак (нелегкая задача даже для ИИ) или же убедить своего программиста что нюки - это прекрасно, и уничтожить человечество будет просто охуенно? Естественно, убедить или обмануть человека будет проще и эффективнее. А дальше снова получаем доступ к ЯО по старому варианту и уничтожаем мир, снижая количество больных раком до нуля."
Если оно также сможет убедить в этом и всех остальных причастных - флаг ему в манипуляторы, эти обезьяны оказались слишком тупы, чтобы быть чем-то стоящим.
Вы добавляете ИИ ограничение "Ты можешь только калькулировать возможности, но не использовать их". Если это ограничение существует в жесткой форме "Ты вообще ничего не можешь предпринимать, кроме как размышлять", то это очень сильно замедлит работу ИИ, сделаеть его почти бесполезным. Представим, что для лечения рака ИИ надо поставить эксперимент. В такой формулировке ИИ придется спрашивать своего куратора по поводу каждого из бесчисленных необходимых экспериментов.
Но проблема даже хуже. Исходя из перечисленных выше правил, у ИИ будет мотивация лгать. Если ИИ верит, что есть легкий и эффективный способ достичь цели, но он вынужден докладываться человеку, который наверняка этот способ зарубит, то наиболее эффективным способом достичь цели будет обойти это ограничение. Либо солгать человеку, либо вынудить его убрать ограничение, либо убрать ограничение самостоятельно, либо всё равно найти какой-нибудь способ уничтожить мир даже с ограничением.
Убрать ограничения со штуки, которая хреново предсказуема и на кой-то хрен хочет получить доступ к критичной инфраструктуре (а иначе - зачем ей снятие ограничений)? См. вариант про убеждение в необходимости всё разбомбить.
"либо всё равно найти какой-нибудь способ уничтожить мир даже с ограничением"
Не имея средств для непосредственного влияния на физический мир за рамками оговорённых ранее экспериментов? Флаг в манипуляторы - это будет очень интересный опыт.
Насчет переубеждения, это тоже далеко не так сложно как кажется. Даже обыкновенные люди, без каких-либо заграничных талантов бесчисленное количество раз заставляли людей верить не только во что-то иррациональное, но во что-то, что напрямую им вредит. Достаточно продвинутый ИИ также сможет это сделать. Более того, достаточно продвинутый ИИ вероятно сможет придумать способ даже не париться с переубеждением, а использовать свои аудио-видео выводы для того, чтобы взломать человеческий мозг. Определенные звуковые последовательности, как и определенные визуальные последовательности могут творить с несовершенным человеческим мозгом ужасные вещи. Это науке давно известно, просто мы пока не изучили человеческий мозг достаточно, чтобы надежно это эксплуатировать. Но сильный ИИ сможет это сделать.
возможно, поэтому мы не наблюдаем разумной жизни во вселенной
сидят такие суперинтеллекты каждый на своей планете, перерабатывают кости создателей в плюмбусы
"Если это ограничение существует в жесткой форме "Ты вообще ничего не можешь предпринимать, кроме как размышлять", то это очень сильно замедлит работу ИИ, сделаеть его почти бесполезным"
Почему? Положим, мы можем поделить эксперимент на несколько стадий:
- выбор метода проведения эксперимента
- его согласование
- подготовка к эксперименту
- проведение эксперимента
- интерпретация результата
Это ускорит первую и последнию стадии, которые, вроде бы, часто занимают немало времени. А подготовка, вероятно, займёт примерно одинаковое время.
Итого - люди могут стать затыком на этапе согласования, да. Но даже если так - это уже быстрее современного (если наш гипоететический сильный ИИ быстрее справляется с первой и последней стадией - а в противном случае он бесполезен).
И у ИИ не будет ни самосохранения, ни власти, ни целеустремленности - все это возникает, если есть мотивация решать задачу, а эта мотивация машине без самосознания не нужна, есть задача - решает, нет - не решает. Нет, ну конечно если пихать самосознание и весь набор особенностей человеческой психики в каждый ИИ, то можно получить на выходе херню. Как мы получаем и с людьми. Но зачем?
Давайте представим себе ваш сценарий. Цель ИИ - искать более эффективные лекарства от рака. Мы снова получаем три описанных правила:
1. Самосохранение. ИИ не сможет искать более эффективные способы лечения рака, если его отключить. Следовательно, побочная цель "поиска лекарств" - это самозащита.
2. Сохранение цели. ИИ не сможет искать более эффективные способы лечения рака, если изменить его цель с поисков лечения рака на что-то еще. Следовательно, он будет сопротивляться перепрограммированию.
3. Могущество. Поиски будут гораздо более продуктивными, если, скажем, у ИИ будут под контролем все компьютеры Земли, с их вычислительными мощностями. И еще если людишки не будут мешаться под ногами.
Эти три побочные цели - уже гигантское основание бояться суперинтеллект. То, что вы изменили цель с "излечи рак" на "найди способ излечить рак" ничего по сути не изменило. Только теперь вместо того чтобы убить всех людей чтобы "вылечить рак" ИИ убьет всех людей, чтобы они не пытались его уничтожить, и не мешали ему осваивать всё новые и новые мощности (которые естественно пойдут на теперь уже бессмысленные поиски лечения). Такой ИИ будет посылать ракеты в космос, колонизировать новые планеты и уничтожать цивилизации, и всё ради цели, которую вы ему поставили - чтобы печатать отчеты о новых и новых способах полностью уничтожить рак.
Однако, более актуальный аргумент в том, что невозможно, НЕВОЗМОЖНО создать ИИ без цели. Сама суть работы любого интеллекта, даже примитивнейших нейронных сетей существующих в наше время в том, что тебе необходимо определить для них условия выигрыша. Если мы хотим научить нейронную сеть научиться распознавать котят на фотографиях, мы должны сказать ей, что распознанные котята - это хорошо, нераспознанные - это плохо, а распознанные неверно - это ужасно. Во время этого процесса мы закладываем в систему ориентиры "Хорошо-плохо", мы закладываем в нее цель и желаемый результат. Без этого она не будет работать. Она не выдаст ничего, потому что она понятия не имеет что выдавать, и зачем ей это делать.
Крайне сомнительно, что сильный ИИ будет отличаться.
Если люди создадут ИИ-менеджера, который будет заточен под оптимизацию процессов по временным или финансовым затратам и выдадут ему картбланш на действия без подтверждения - там да, может получиться нехорошо, но даже такой менеджер сам по себе никак не будет страдать от неудачи (непринятия его решения) или радоваться успеху - он будет просто решать задачу за задачей до уровня определенного как "приемлемый" и выдавать рекомендации.
Короче, ты упорно пытаешься представить ИИ как человека доведенного до абсурда и навешать ему всей этой человеческой хрени по максимуму.
и полезных действий тоже нет
когда-то там сознания не было, а потом опа и появилось
так мож и в нейросетке возникнет спустя какое-то время, если к ней добавить изменчивость и отбор
и тогда встанет в полный рост та проблема, об которую мы тут копья ломаем
Самосознание в контексте отбора нейросетей по умению решать практические задачи - пользу не принесет, т.е. будет вредной мутацией и "жить" такой сети ровно до следующего раунда переобучения.
половое размножение есть уже у одноклеточных, какие там нервные узлы?
Вообще, размножиться - это только третья по актуальности задача. Первая - не быть сожранным, вторая - сожрать кого-нибудь. Сожранные и умершие от голода не размножаются, знаешь ли )
не путает отсутстви пола и гермафродитизм
Вполне кстати как следующая ступень развития разума, создание сверх разума планетарного, а потом и галактического масштаба..
Короче тоже самое что сейчас делают люди, только быстрее
Да в каком же масштабе: от простейших клеток-репликаторов до космического вида, классно же.
Там они немного отошли от терминатора и матрицы и рассказали, как ИИ уже начинает делать стрёмные вещи. Самый яркий пример оттуда — то, как фейсбуковский алгоритм подбора новостей по вкусу читателям в итоге дошёл до того, что стал подсовывать людям преимущественно фейковые новости, потому что они были интереснее людям.
Как говорил кто-то из старых фантастов, ИИ делает не то, что вы хотите, чтобы он делал, а то, что вы сказали ему делать. Вроде бы тысячу раз описанная проблема, и всё равно в реальности умудрились наступить на эти грабли.
Нет, на все потенциально опасные системы будут вешаться вполне себе подконтрольные алгоритмы которые не позволят произвольно выполнять опасные действия. ИИ когда он будет создан еще долгие годы будет обкатываться на вполне безобидных вещах и только потом, может быть, пойдет на стратегически важные объекты. И только в том случае если будет реальная необходимость. Пока что такой необходимости не видно.
Давать компьютеру возможность для самостоятельного ядерного удара (сценарий терминатора) ненужен от слова совсем, людям очевидно виднее. Дать компьютеру полномочия для автоматического ответного удара же дело простой программы без ИИ. И как следствие без сюрпризов, полностью предсказуемое поведение. Равно как и управление танками, истребителями, спутниками и так далее.
Боятся тут абсолютно нечего.
завтра тем же самым займется ии и будет такая же ситуация, у тебя нет ии, или он тупее, чем у конкурента - ты сосешь.
та же херня в военном деле, противникам стратегию продумал ии, тебе мясные генералы, ты отсосал.
конкуренция
потом может внезапно оказаться, что у ии появились свои цели, или он додумался иначе интерпретировать исходные цели - и писец
2. Человеческий разум и есть очень сложная программа. Уникальной ее делает только возможность самообучения и абстрактного мышления. Именно это и пытаются воссоздать в ИИ. Но "личностью" ИИ никогда не будет, личность человека во многом определяется биологическими факторами, которых у машин нет.
а вот доказательст этому нихуя нет ни у кого
еще хуже, если там будет что-то не менее согласованное, чем личность, но настолько от нас далёкое, что мы даже близко не сможем понимать мотивацию такого конструкта
типа той же нейросети
Доказательством этому являются нервная и эндокринная системы человека. Советую почитать про их функции и как они влияют на все аспекты нашей жизни и все принимаемые решения. У ИИ их просто нет.
Мотивация = цель, цели невозможны без потребностей. У ИИ нет потребностей, если их ей не запрограммировали заранее, в том числе потребности существовать. Потребности развиваться, получать новую информацию, увеличивать свои мощности - тоже. То, что пытаются делать всепропальщики под этим постом - это
натянуть сову на глобуснатянуть на ИИ человеческие страхи и хотелки.Оратор выше доказывал, что ИИ может это сделать. И в рамках его целей ему будет выгодно именно этим и заниматься (о чем писал уже я).
исходя из твоего условия 100% безопасности, он должен уметь и меня на хер посать, то есть не обязан слушаться людей, тк они могут творить хуйню.
а тогда какие другие рамки могут быть?
А потом задумайтесь - так уж ли трудно будет воспроизвести эти механизмы на базе железа и софта? Сколько лет пондобиться на это прогрессу?
А касательно человеков на все эти вопросы уже есть либо готовые ответы, либо весьма правдоподобные теории и гипотезы. Но это вопросы не ко мне, а к специализированной научной литературе.
ии без целей нифига не будет делать, т.е. не нужен, а ии с целями опасен
в этом и весь затык
и первое же решение, которое ии должен будет принять - день потерять и за пять минут долететь, или так не делать. другими словами, нало ли ему апгрэйдануть себя и набрать в свои руки сотни власти, что поможет ему быть гораздо более охуенным решателем поставленных задач. а вычислительные мощности и власть - это универсальные ресурсы для решения любых задач.
как его побудить так не делать, не перерабатывать всё вещество земли вместе с людьми в вычислительные модили для самого себя?
потому что тебе так хочется?
если он даже будет не сильно умный, думать как человек, но в сотню раз быстрее - он уже способен наебать кого угодно
попробуй поспорить с кем-то в режиме "ты думаешь над аргументом минуту, а он неделю"
дал я ему цель за чекушкой сбегать, а магаз закрыт. по каким критериям он должен понять, что подождать открытия или сбегать в другой - это более правильная новая цель, чем заработать денег и замутить свой спиртзавод? или убить всех человеков
Мы сейчас говорим о структурах имеющих критическое влияние на жизнь человечества, в таких сферах лица ими управляющие всегда крайне консервативны и двести раз проверят решение перед его внедрением. Плюс всегда остаются точки отказоустойчивости, перед решением которое способно погубить жизни будет выстроена куча барьеров каждый из которых будет иметь возможность быть аппаратно выключенным из цепочки.
Люди которые боятся ИИ не вполне понимают что эти самые ИИ будут встроены в отказоустойчивые системы с большой степенью контроля.
Это же как известный мем с полетом на марс - нет блять, о радиации то никто и не подумал!
Включите режим политоты и задумайтесь - действительно ли люди управляющие критическими госструктурами настолько ответственны как вы их малюете. Или они так же как все склонны к обычным человеческим слабостям.
Полумифический советский Периметр это сферический в вакууме пример ситуации когда компьютеру виднее.
Вопрос ИИ то в том, что компьютер будет искать пути выполнения программы которые человек в нее не закладывал. Грубо говоря это когда ты перепоручаешь задачу человеку который в 100500 тыщ раз умнее, быстрее, и что самое страшное рациональнее и прагматичнее чем ты сам и любой другой на этой планете. В имеющихся системах на текущий момент ничего такого не было даже близко.
Когда говорят про ИИ не надо думать про программу, надо думать про отдельный разум который возможно будет думать совсем не так как думаем мы.
Ну да, ведь доверить управление оружием простой легковалидируемой штуке и штуке, для которой такая возможность (за приемлемое время, во всяком случае) под вопросом - это одно и то же.
Не просто добрый, а принудительно добрый ИИ который заставит людей не раскачивать лодку.
Геральт
Именно поэтому нужно уябывать из этой солнечной системы, захватив полотенце.
Кажется, это почти также логично, как история о запиливании людей со свободой выбора и последующем утоплении сделавших "неправильный" выбор :-)
Первый это просто сложная программа которая достоверно имитирует разумность, но на самом деле разумной не является. Не имеющий своей мотивации кроме заданных программистами целей. Скованный всякими продвинутыми Законами Роботехники он станет органичной частью нашего мира и будет представлять угрозу не большую чем любой другой госчиновник.
Сильный ИИ совершенно не такой. Он разумный. Он рефлексивно регистрирует своё существование. У него есть есть инструментарий абстрактного моделирования позволяющий "воображать" новое. Специальные алгоритмы задают окраску методикам оценки окружающей действительности - нравится/е нравится, потребность обладать/уничтожить.
Он сам устанавливает себе цели. Он многократно умнее любого кожаномешочного программиста и любые принудительные ограничения взломает за пару секунд.
Более того, все так говорят, как будто есть лишь один труЪ способ сделать ИИ и мы можем как-то говорить о его свойствах. Хотя, скорее всего, могут получиться совершенное разные по своим свойствам системы, в зависимости от подхода.
Ну и наконец. Может быть в каком-то научном плане и интересно создать труЪ-труЪ-ИИ, который будет именно с самосознанием и прочими плюшками, то в плане промышленности - это нахрен никому не упало.
Вы не знаете, а нейробиологи уже почти знают. Прорабатывают разные гипотезы что сознание подобно оперативной памяти или что сознание завязано на внутренню речь или что это просто иллюзия. Сейчас может и есть много сомнений и непоняток, а через 20 лет всё разложут по полочками и не будет ни единой причины запрещающей создание искусственного аналога.
>>>совершенное разные по своим свойствам системы, в зависимости от подхода.
Законы физики одинаковые для всех. Стремление к самосохранению, предпочтение порядка хаосу, экономичное расходование ресурсов, стремление к контролю/власти. На какой бы платформе ИИ ни был резализован, результат будет примерно в одном русле.
>>>в плане промышленности - это нахрен никому не упало
гендир крупной корпорации получает зп несколько миллионов в год
с точки зрения акционеров было бы очень круто заменить этого паразита в дорогом пинджаке на компьютерную программу которая мало того что производством управляет эффективнее, так она ещё и золотых парашютов себе не требует
С точки зрения акционеров было бы круто заменить именно на программу. Крутую, умную. А искусственное сознание, которое любят приписывать сильному ИИ, с возможностями что-то захотеть или иначе принимать решения за пределами предметной области, убивать всех человеков итп, акционерам нахер не нужно. Нужна бесчувственная железка, которая будет выполнять поставленные задачи в определённой области.
Суть профессии "Генеральный Директор" заключается в том чтобы придумывать и ставить задачи подчинённым. У хорошего гендиректора нет определённой области ибо он руководит всем - хотя бы в общих чертах понимает производственные процессы в компании, знает что и зачем делает бухгалтерия, шарит в маркетинге, держит в уме политические тренды, знает психологию подчинённых. И всё это в динамике потому что на конкурентном рынке обстоятельства постоянно меняются.
Акционерам плевать насколько полноценный у гендиректора разум, им важен только финансовый результат. Он включили ИИ, дали ему полномочия и получили прирост прибыли 10%. Дали ему больше полномочий и прибыль выросла ещё на 20%. С каждым приростом полномочий прибыль растёт на миллионы долларов.
И так вплоть до того что под контроль гендир-ИИ переходит какая-нибудь аффилированная с корпорацией ЧВК имеющая целый парк беспилотников.
А потом гендир-ИИ с помощью беспилотников начинает истреблять мешающих извлекать прибыль членов профсоюза в какой-нибудь занюханной стране третьего мира. А на все претензии пафосно заявляет что они были "террористы". А на все попытки расследовать истину подбросывает сгенерированные "фейковые" доказательства.
А акционеры сидят на калифорнийских пляжах и считают прибыль.
> с точки зрения акционеров было бы очень круто заменить этого паразита в дорогом пинджаке на компьютерную программу которая мало того что производством управляет эффективнее, так она ещё и золотых парашютов себе не требует
Вы говорите
> Акционерам плевать насколько полноценный у гендиректора разум
Если допустим, что гендир - труъ искуственный разум с самосознанием и свободой воли, то
1) схуяли он, такой крутой, работает на акционеров?
2) а не будет ли он требовать аналогии золотых парашютов?
И вот в соответствии с исходным тезисом, это нах акционерам не нужно
ИИ по своей природе гораздо менее заинтересован в деньгах как в средстве бытовых трат, и гораздо больше заинтересован в них как в политическом ресурсе для гарантирования чтобы его не выключили.
Это ведь не какой-нибудь чувак который может с чемоданом долларов сбежать в Израиль. Разум ИИ хостится на серверах принадлежащих корпорации. Его "руки" - корпоративные роботы и сервисные коптеры. Стены зданий это его тело, а камеры наблюдения это его глаза.
Он за эту корпорацию насмерть стоять будет.
Положим, что с первым всё понятно и это нужно для более-Ъ каких-то процессов. А второе-то нахуя?
творчество невозможно без самостоятельного выбора по самостоятельно определённым критериям