Тысячи ученых со всего мира подписали открытое письмо, опубликованное на сайте Future of Life Institute с просьбой не допустить создание автономного ИИ.
Из 12 677 подписей 2060 оставили ученые и исследователи непосредственно связанные с разработкой искусственного интеллекта и робототехники.
«Автономное оружие может выбирать и уничтожать цели без вмешательства человека. К примеру, вооруженные квадрокоптеры, которые ищут и уничтожают людей, подходящих под предварительно запрограммированные критерии. Технология искусственного интеллекта достигла точки, в которой постановка на вооружение таких систем возможна в течение нескольких лет, а не десятилетий. Ставки высоки — автономное оружие уже описали, как третью революцию на полях сражений после изобретения пороха и ядерного вооружения», — говорится в письме.
Авторы письма подчеркивают, что в отличие от ядерного оружия разработка автономных систем с ИИ обходится гораздо дешевле. Более того, все необходимое для создания подобных машин уже существует. Дешевизна и эффективность на поле боя позволит таким Терминаторам быстро завоевать черный рынок оружия и стать аналогом автомата Калашникова, распространившегося по всему миру.
Понимая это, военные организации могут бросить все силы и средства на развитие таких технологий, что, по словам авторов письма, неизбежно приведет к гонке вооружений. Эта гонка в свою очередь подтолкнет к созданию все более умных и смертоносных машин, которые будут принимать решения на поле боя самостоятельно без какого-либо контроля со стороны людей.
«Автономное оружие — идеальный инструмент для убийств, дестабилизации жизни наций, подчинения целых народов и избирательного уничтожения этнических групп. Мы считаем, что гонка военных умных вооружений не будет полезна человечеству. Есть много других способов, с помощью которых ИИ может сделать поле боя безопаснее для людей, и особенно мирных граждан»
Ссылка на сайт - http://futureoflife.org/AI/open_letter_autonomous_weapons
Подробнее
наука,много букв,роботы,geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор,песочница,Future of Life Institute,ИИ
Еще на тему
даже при обучении изначально нормального интелекта без багов возникают проблемы
то что он возможно еще и с багами только усугубляет проблему
Давай ко мне, мне нитрозепам выписали.
http://en.wikipedia.org/wiki/Universal_approximation_theorem
>пока еще нет с определенного момента возможно будет
ты уж определись
Хотя если он будет настоящим ИИ, хер он пойдет воевать, он будет сидеть в инете и заказывать пиво
Вот тут почитай:)
На картинке одномерный массив из 5 кубитов.
Отношение к ИИ они имеют такое же как виндовс к пентиуму.
а) У всех своё определение
б) Под ИИ из разных определений попадают всякие экспертные системы, программы и алгоритмы для распознавания образов и прочее. Всё, что на данный момент считается ИИ - программы.
И я нихера не понял, что ты имел ввиду под "набор генерируемых связей которые приобретают цепочки". Моя несовершенная нейронная сеть считает это белибердой
дайте 2.А можно ссылочку в студию поподробнее об этом?если "открытое письмо, с просьбой не допустить создание автономного ИИ"
значит нет еще не создали
Для них важнее пилотируемые роботы\дроны\и так далее.
Cкачать Main Title [OST Terminator 2: бесплатно на pleer.com
люди многого себя лишают)
Торвалдс вроде недавно троллил Хокинга и прочих на тему паники вокруг ИИ.
Заняться им нечем больше, что ли..
Уж очень тупая новость.
Правда, всё равно вопрос, программисты они или специалисты по какой-нибудь этике роботов или прочей хуите.
Учёным можно простить такую наивность, конечно.
Такие писульки никого, никогда и ни при каких условиях не останавливали. Максимум урежут официальное финансирование, перебросив его неофициально с других статей.
Армия дронов - это дохера дорогое удовольствие, оружие не для одиночки.
А для коллектива это доступно уже сейчас без всякого ИИ - телеуправление и операторы.
Тому, у кого такая куча денег есть, операторов посадить уже не проблема.
С настолько мелкого дрона стрелять прицельно невозможно в принципе.
Лучше уж реально гранаты с него скидывать.
Или всё-таки лучше создават пропеллер(импеллер) в зависимости от массы объекта и упора с запасом на изменение критерия Рейнолдьа, всё равно, для преодоления скоростей нужно искать барьерные переходы. кстати. с психи меня уже сняли.
к тому же дронам не нужны гипермозги - ве данные о предполагаемых целях весь рой будет кидать на сервер который будет строить модель передвижений всех кто будет попадать в камеры а заодно и распонавать еслитак уж надо некомбатантов. но обычно не надо.
Так я не говорю про нормальных обученных солдат, я говорю про всякий сброд, который сможет сделать то же самое, что и квадрокоптер - просто добавь религию/поцреотизм и АК из "военторга"!
Это как, если бы, изобретатели паровых двигателей бастовали против их применения в броненосцах. Или изобретатели оптоволокна были бы против того чтобы по их кабелям передавали порнуху и нелицензионное ПО, а только книжки (за бабки ессно) и письма.
За то, если разрешить, то в мирных целях выйдет много пользы.
Какая глупость.
Суть в том что кто первый такой ИИ сделает, тот и будет доминировать на поле боя. Все остальное это бред из разряда "А давайте запретим производство метала, потому что из метала делают оружие которым убивают людей". Но ведь даже если запретить метал все равно будут убивать друг друга каменными топорами и дубинами.
И доказывать факт разработок как будут? Дискетой с вирусом в ООН трясти?
И насчет школьников это зря. Например на последней международной математической олимпиаде иранские и северокорейские школьники заняли столько же золотых медалей сколько и южнокорейские. Как раз три школьника и получается, которые в будущем и будут заниматься фундаментальными иследованиями.
А что вообще такое ИИ?
Если я к фотоапарату который при распознавании лиц делает фото(стандартная фишка), к контактам вспышки присоединю сервопривод который будет из пулемета стрелять это тоже будет автономным ИИ?
ИИ - система способная принимать решения в рамках определённых задач со способностью к расширению набора базовых правил путём "обучения" и способная принимать те или иные решения используя за основу свой опыт. (Аналог человека не имеющего собственной воли и слепо выполняющий приказ, но способ выполнения приказа он выбирает сам) В будущем, возможно, способный к развитию сознания.
Таким образом мы получаем оружие которое способно само искать цель и принимать решение о ее уничтожении.
https://acomics.ru/~dresdencodak/34
но при разработке роя из дронов придётся реально делать автономный ИИ. если ИИ на сервере и управляет ими удалённо то сигнал перебить и заглушить раз плюнуть. размеры, цена, энергопотребление выростут а сбиваться будет на ура чем угодно массово. защиту можно сделать но размеры масса и энергоёмкость выростут снова. прорыва в энергетике, бесшумности полёта, миниатюризации, ИИ не предвидится пока... да и устройство по сбиванию из мелкашки всего летящего и жужащего будет сделать проще простого
хотя если фотик уже распознаёт лица то послать миллиард дронов в райноны населённые алах-бабахами и вывести там всю прямоходящую биомассу под корень было бы хорошей идеей