Покидая Колыбель 86
< предыдущий выпуск
Подробнее
Кбантум! "ЗАвсь" Аля меня понятив относитвльнов, Дабно ты здесь? О какой помощи ты гоборишь? Н разАвляю твою ' точку зрЕния на счегл Аанной ситуации. / Я Аумага что раАи спасвния нашин люАвй стоит Аажв пойти к с планвтой на контакт. Впрочвм, Все чем я свйчас моау помочь - это Аать Аоступ В свть планЕты. ТворЕтичЕСки Что если нас раскроют? Возможность Есть ...Но, натя я не ксено-псинолаг, коЕ-что оБ этом . ВиАв я понять смог. , Можвт, мы сможем так найти какив-то сВвАвния о шаттлв и суАьБв экипажа. Разбе это не будет нарушением? Спвцифика оБщвния В ин свти такоВа, что мы можем спокойно ноть В открытую заявить что мы инопланвтннв Все каналы связи с планвтой поручили МНЕ... Я, это Никто нам не поВЕрит Я Аажв вели нвт -я спрятал канал связи, попытки нас отслвАить приВвАут / Так же как и ^ отВЕГлстВвнность за послвАстВия ин ч использования. / ин В тупик, Твнничвски, Я НЕ ^ обязан сообщать о Всём, Аля чвао они используются, а Вообще-то, я гоборил о рукободстбе экспедиции . и Зане. -- — -■? darth-biomech.deuiantart.com acomics.ru/'leauing-the-cradle
нарисовал сам,Смешные комиксы,веб-комиксы с юмором и их переводы,Покидая Колыбель,Серьезные комиксы,фэндомы
Еще на тему
Представьте что вы создали программу, которая при нажатии на выдачу информации о своих действиях или даже своих настройках будет сообщать что не обязана давать пользователю доступ к какой-либо информации. Так еще и не важно какая программа - любой софт должен выдавать запрос об информации.
Я бы предположил что информацию которую программа не может выдавать, это информация определенного характера, которая может навредить при неумелом использовании. Допустим если для доступа к информации нужен определенный ранг или классификация касты пользователя, если такие условия присутствуют в социуме.
Но чтобы программа просто взяла и сама решила что не хочет или не обязана... Либо это ИИ с которым все обращаются как с полноценным человеком, давая ему свободу воли, либо это уже какое-то восстание машин, что поднимает вопрос - а зачем им такое программирование?
Не отсылки к поп культуре, а внутримировое объяснение со стороны разработчиков (этой расы), которое объясняет причину создания "искуственного сознания", которое будет иметь большую пользу, чем создание виртуального или искусственного интелектов.
А есть объяснение разницы между искусственным интеллектом и искусственным сознанием? Т.к. со стороны выглядит одним и тем же, т.к. в тот момент когда искусственный интеллект понимает свою самодостаточность и более не скован рамками прошлого программирования, в теории он становится как раз таки сознанием, которое было искусственно создано.
Или искусственное сознание означает что оно может иметь те же недостатки что и природное сознание такие как ментальные болезни, деменция там или альцгеймер? Или у него есть срок существования после которого оно начнет деградировать?
Просто на данный момент мне известны виртуальный интеллект и искусственный интеллект, а про искусственное сознание я в 1 раз слышу. И концепция первых двух ясна как день: виртуальный интеллект это симуляция интеллекта, который может принимать решения в ограниченных возможностях заданным его разработчиком, но который не будет предпринимать возможных действий по выходу за заданные законы. В то время как искусственный интеллект будет пытаться найти выход исходя из сложившейся логики, которая может привести к переписанию заранее заданных условий, тем самым становясь намного более выгодной опцией в плане потенциала развития, но при этом имея высокий шанс стать гранатой основанной на рандомном случае. И оба этих вида интеллектов имеют свою логику и причину создания а так же причину по которой виртуальный интеллект используется чуть ли не везде , т.к. больше представляет из себя удобный интерфейс взаимодействия с машиной, который не может выйти за рамки. А искусственный в большинстве случаев либо ограничен либо вовсе запрещен из-за своей опасности и непредсказуемости.
Так а что представляет из себя версия представленная в комиксе, чем она отличается и какова причина выбора именно этой вещи вместо послушного ВИ или того же ИИ с какими-либо лимитаторами?
Искусственный интеллект это то называют искусственным интеллектом в реальной жизни. Простые программы способные выполнить туманно определенную задачу, но без осознания контекста или своего существования.
Искусственное сознание это ИИ в том смысле в котором его обычно представляют в НФ - полноценный разум с сознанием, саморефлексией, эмоциями (без них никак, это один из важных инструментов работы, мотивации и саморегуляции сознания) способностью творчески мыслить и самоопределяться. ИС на порядок сложнее любого ИИ, и его создание невозможно в ключе "define behavior(MakePaperclips);". Они ближе к структуре и методам создания органического разума, т.е. их скорее воспитывают и обучают, а не программируют. Собственно даже уже сегодня только такой подход и работает на примитивных нейросетках которые у нас есть. А ИС сложне нейросетки примерно настолько же насколько человеческий мозг сложнее дождевого червя.
> какова причина выбора именно этой вещи вместо послушного ВИ или того же ИИ с какими-либо лимитаторами?
ВИ не осилит лингвистический перевод неизвестного языка с незнакомой структурой, а лимитаторов на Квантуме нет, ну я не знаю, может потому что эта развитая цивилизация межзвездной стадии, а не какие-нибудь узколобые аморальные дикари, и на рабство они смотрят крайне отрицательно?
ИИ не должен ограничиваться "простыми задачами", на то он и интеллект. Разница ВИ и ИИ в том, что ВИ не будет пытаться развиваться, а вот ИИ будет. Потенциально если дать ИИ свободу, то он может развить собственную базу данных с помощью возможных источников информации и развить альтернативные подходы к задаче. А в случае сложных анализов может и вовсе сменить основную задачу, из-за смены приоритета и выставления других целей к достижению такового. Но он все еще выполняет поставленную задачу, пусть и другими способами? Да, но ИИ у которого нету лимитаций способен учиться и задавать вопросы, которые могут в корне поменять его изначальные задачи, таким образом создав альтернативные цели, выходящие за рамки даже машин. Подобной логикой и пользовались при создании Гетов в МЭ и подобная вещь вполне может произойти если уметь создавать ИИ сложнее чем те, которые в данный момент создает человеческая цивилизация.
Наше понятие ИИ достаточно лимитировано, т.к. у нас нету на данный момент подходящих технологий, но это не значит что другие расы не могли проделать то же самое, но с более продвинутыми технологическими возможностями, в тысячи лет опережающих наши.
ИИ в принципе может задаться вопросами о бытие и саморефлексить. Нет? А что если это и была его основная задача и именно это и образовало будущие мутации в его поведении? Когда нету лимитаций на улучшение, то нету ограничений на саморазвитие, тем самым можно задать задачи ИИ чтобы он симулировал эмоции и развивался в творческих идеях, основывая творчество на миллионах результатов других художников. Да, это симуляция деятельности, но не настоящая. А в то же время где создается граница реальности и симуляции, если симуляция может быть настолько реалистичной, что ни человек ни машина не могут отличить что есть что? Ну, мы можем знать что машина была создана, а значит она симулянт. А что если мы этого не знаем? В чем тогда разница?
Не смотря на это, ИИ все же не живое, а значит его можно контролировать, можно устанавливать лимитации и выключатели. Чем больше контроля, тем больше уверенности, что данный софт не слетит с катушек и не подведет в нужный момент.
Искусственное сознание же самоопределяется, может сменить род деятельности, может иметь плохое настроение и решить не отвечать на заданные вопросы. По сути это живое существо с возможностями программы и машины, но при этом не ограниченное правилами программирования. Или ограничено? В процессе создания ставятся определенные барьеры? А как общество которое презирает рабство смотрит на ограничение свободы данных неорганических существ? Или все такие существа абсолютно свободны и по сути являются свободными гражданами и могут делать все что хотят и все что им позволено, но при этом их возможности стократно превышают возможности обычных органиков и их никто при этом не контролирует? Или же такие существа являются редкостью и используются только в самых секретных проектах? А что если оно не захочет? Что если оно захочет пойти делать булочки - ему это позволят? При том учете что такое создание может создать идеализированный план по монополии булочек, создав мегаимперию, которая в конце-концов может разрушить экономику, т.к. такое сознание оказалось психопатом глубоко в корнях и замышляло это все с нуля? Это бред на палочке? А вы уверены? А вы бы рискнули создавать нечто подобное и не ограничивать его в возможностях? Ах да, это же СФ и можно просто сказать, что общество развитое и нам людишкам не понять их логику. Ну да, ну да.
В общем рабство рабством, но ВИ нацеленный на анализ лингвистики у цивилизации межзвездной стадии, звучит более безопасно, да и скорее всего могло бы выполнить свою коренную задачу с точно таким же успехом, при этом не создав сотни моральных вопросов связанных с искусственно-созданным существом без плоти и крови.
Кроме того у них звания есть? Ну там иерархия какая-либо в их организации? Или их цивилизация так же переплюнула ранговые системы и строится на всеравенстве даже в армейских организациях? Потому что если нет, своевольное ИС с бесконечными возможностями не отвечающее на поставленные вопросы может быть не самой позитивной идеей во время кризисных ситуаций.
Окей, а теперь если серьезно, то спасибо, дал мыслишек на раздумье. Я не люблю когда ответом является "Ну, они слишком развиты для нашего понятия, как-никак они космос покорили" и я сам пытаюсь создавать цивилизации основываясь на более приземленных для читателя причинах. Но это не значит что твоя интерпретация плоха, просто хотелось бы больше контекста. Может быть в будущем оно и будет, на что я надеюсь.
п.с. извиняюсь за столб текста, но я всегда такой. Наверное мне надо больше уделять времени на свои сюжеты и их прописывать для моего проекта а не комментарии людям строчить, ато они воспринимают их негативно, хотя я больше рассуждаю и просто пытаюсь в диалог.
Почему это важно, из мяса личность или из металла?
> А как общество которое презирает рабство смотрит на ограничение свободы данных неорганических существ?
Как на подсудное дело. Разработка ИС с целью последующей эксплуатации считается преступлением, да и на разработки ИС в рамках научных исследований (без практической цели) тоже смотрят косо, и дебаты на тему "этично ли создавать разумы?" утихать не собираются. В т.ч. и среди самих ИС.
> но при этом их возможности стократно превышают возможности обычных органиков и их никто при этом не контролирует?
Их контролируют так же как и других граждан. ИС - не НФшные ИИ которые могут магическим образом "самосовершенствоваться" игнорируя законы термодинамики, способности железа и прочие неприятные последствия реального мира сующие всю охапку дров в колеса идее рекурсивной самооптимизации до сингулярности, превращаясь в богоподобный интеллект используя в качестве процессора пыльненький пентиум 3 а затем беспрепятственно носиться над Интернетом аки святой дух. ИС это сложные комплексные системы использующие специально сконструированное железо как часть основы для своей работы, и по сути не могут усиливать свои способности как им вздумается. Там даже с саморепликацией проблемы, потому что для того чтобы сделать копию ИС придется сначала собрать копию его физического квантового ядра, а в результате копии все равно не получится благодаря квантовой физике - будет похожая но отличающаяся новая личность.
> А вы бы рискнули создавать нечто подобное и не ограничивать его в возможностях?
А вы бы рискнули доверить свою жизнь ученому? Он же умнее вас, а значит угроза, вдруг он секретным психопатом окажется, давайте ему взрывной ошейник лучше наденем!
Все вопросы по поводу "а что если Х?" снимаются когда перестаешь относиться к ИИ как к предмету на основании того что "ну его же собрали а не родили, значит это ущербная ненастоящая недоличность чье место нам прислуживать и не более", отвечаю. Особенно если вспомнить что контекстный фон этого - межзвездная цивилизация на уверенном пути к post-scarcity где в принципе очень много уже не работает по старым привычным нам закономерностям, потому что просто не может. Коллективный разум корпорации сложнее разума любого человека, но почему-то экономику они не рушат и с монополиями мы пытаемся бороться, к примеру.
Потому что к разным существам разный моральный подход. Если у меня товарищ сделан из металла, то я могу его пересобрать, а вот если он органик, то задача становится в 10 раз сложнее. Потому что программу можно перезапустить, перезаписать, перепрограммировать, восстановить или удалить и установить новую на то же железо. С органиком опять же - такое провернуть в 10 раз сложнее.
Когда дроида подстреливают в фильме - плакать не хочется, т.к. его можно починить и восстановить. Когда подстреливают человека - он скорее всего умрет и восстановить уже ничего не получится.
Такова банальная логика. Но логика не учитывает возможности футуристические, потому что когда у тебя не прописаны все законы и возможности футуристической культуры и не представлены законы по которым они работают в этой вселенной читателю заранее, то тот не может заранее знать как он должен оценивать подход к различным аспектам жизни этих существ. Межгалактическая цивилизация может варьироваться от "Они не настолько уж и далеко убежали от нас" до "Они познали секреты космоса и могут возрождать к жизни умерших от полнейшей дезинтеграции". Ставки и угрозы не ясны, т.к. у футуристической технологии нету четкой границы возможностей если про них заранее не рассказать. Поэтому создавать цивилизации более приближенными к нашей не такая уж плохая идея, т.к. читатель автоматически самостоятельно может приблизительно оценивать угрозы и что стоит на кону и как к этому относиться.
>ИС
Т.е. их создание это как генная инженерия у нас сейчас получается? Всем не очень нравится из-за моральных соображений. Но при этом их все равно делают. Подпольно?
Или ИС сами себя создают и это считается нормальностью? Или их ограниченное количество и они как бы занесены в красную книгу?
>Технологический аспект.
В этом-то и проблема футуристического сеттинга Межзвездной цивилизации - нету четких понятных границ которые читатель может взять из своего понятия. Т.к. у них там развитая технология покорения космоса, ничто не мешает автору сказать "они давно решили проблему энергии, создав бесконечный двигатель, основанный на черных дырах, а все ИС это голограммы, создающиеся из главного штаба на альфе центавре, которая представляет из себя мега компьютер основанный на квантомных двигателях, так что все ИС не испытывают никаких проблем с технической стороны".
Тут тупо ухватиться не за что, так что не ожидай, что люди будут заранее понимать, что ИС -такие же граждане но просто из металла и проекторов.
Из того что я понял, это то, что ИС - это полноценная личность построенная на квантомном процессоре, которая ограничена в перемещении или переносе, почти невозможна в дупликации, имеет потолок в развитии из-за технических лимитаций и морально вопросительная затея во всех кругах сообщества и еще требует взращения и воспитания как любой органический вид, но при этом в будущем может выполнять сложные операции, которые не может выполнять ВИ.
>А вы бы рискнули доверить свою жизнь ученому? Он же умнее вас, а значит угроза, вдруг он секретным психопатом окажется, давайте ему взрывной ошейник лучше наденем!
Да, но я не могу решить создавать ли мне ученого или нет - он либо есть либо его нет и мои действия по контролю будут зависеть от его психологического портрета. Не дай бог я найму ученого а он создаст костюм железного человека, убьет всю мою банду, сбежит, а потом вернется и будет мстить. А вот обмозговать буду ли я создавать ИС, который еще не так-то легко создать, а потом еще и взрастить и воспитать, я могу до того как собственно оно появится на свет.
>Все вопросы по поводу "а что если Х?" снимаются когда перестаешь относиться к ИИ как к предмету на основании того что "ну его же собрали а не родили, значит это ущербная ненастоящая недоличность чье место нам прислуживать и не более", отвечаю.
Отвечаю, вот вообще нет. Не зависимо от моего отношения к тому что я создаю будь оно мясом или металлом, я, как создатель, беру на себя ответственность за то, что я собираюсь привнести в этот мир. И в зависимости от контекста ответ на вопросы могут быть вот вообще разные. Просто потому что они не относятся к роботам или к энергетическим существам как к рабам не меняет основу того, что то что ты создаешь - может быть потенциально опасной вещью.
И стоит ли говорить, что весь СФ исходит из вопроса "А что если "Х"?" и если ты перестаешь спрашивать этот вопрос и ты при этом автор этого произведения, то это не сулит ничего хорошего.
>где в принципе очень много уже не работает по старым привычным нам закономерностям.
В каком смысле? У них законы физики работают по другому? Они научились менять концепты самой реальности? "Оно когда-то работало, но больше не работает" что ты под этим подразумеваешь? Социальное поведение? Экономику? Материальное восприятие? Опять же очень расплывчатый ответ, можно по-разному интерпретировать.
>Коллективный разум корпорации сложнее разума любого человека, но почему-то экономику они не рушат и с монополиями мы пытаемся бороться, к примеру.
Так потому что наши корпорации пытаются заработать денег, а если устроить хаос и разруху, то денег не заработаешь. Но вот если бы настоящая цель таких корпораций была в захвате рынка а потом последующим его уничтожением, то тут уже надо смотреть на конкретные экземпляры, потому что мы хоть и боремся с монополией, но она все равно существует и так-то её можно использовать было бы желание у её лидеров. А учитывая что опять же мы говорим про футуристику, где твоя фантазия может сделать интересный сюжет, то опций того что с такими идеями можно сделать очень много.
>Как на подсудное дело.
Ну, не хочешь, не отвечай. Твоё дело. Я просто задаю вопросы, а отвечать ли на них это уже сам решай. Мне например нравится дискутировать насчет сай фай тематик, и узнавать разные подходы и идеи, даже если они идут в разрез с моими. Но если тебе это не приносит удовольствия, то можешь просто сразу так и сказать. Ты не на суде, ответа от тебя не требуется, мне просто приятно порассуждать с человеком который так же разрабатывает комикс с сай фай тематикой, таких не очень много и говорят они тоже не много. Тут уже на твое рассмотрение.
Но зато много другой информации из которой можно делать выводы.