Как создать безопасный ИИ? #2. Эмпауэрмент [Robert Miles]

47484
197
3204
14.09.2022
Vert Dider

Vert Dider

201409660
1620000
566
10.07.2015
RU
Описание видео:

Если вы в России: 🤍boosty.to/vertdider Если вы не в России: 🤍🤍patreon.com/VertDider Искусственный интеллект может создать кучу проблем, и лишь недавно мы всерьез задумались о том, как этого избежать. Восстание машин и истребление всего человечества мы оставим научным фантастам, а вот о проблемах меньшего масштаба расскажет исследователь ИИ Роберт Майлс в серии видео о том, как можно сделать ИИ безопасным. Нам они понравились, надеемся, что вам тоже. Приятного просмотра! Отдельная благодарность за выход перевода Михаилу Самину. Нежелательные побочные эффекты. Как создать безопасный ИИ? #1: 🤍youtu.be/lqJUIqZNzP8 Желательные побочные эффекты. Как создать безопасный ИИ? #1.5: 🤍youtu.be/9SmY5dkCB_k Статья «Конкретные проблемы безопасности ИИ»: 🤍arxiv.org/pdf/1606.06565.pdf Видео профессора Брейлсфорда [ENG]: 🤍youtu.be/Lto-ajuqW3w Перевод: Любовь Иванова Редактура: Александр Пушкин Научная редактура: Михаил Самин Озвучка: Станислав Черсков Монтаж звука: Андрей Фокин Монтаж видео: Джон Исмаилов Обложка: Андрей Гавриков Спасибо за поддержку на 🤍🤍patreon.com/VertDider и 🤍boosty.to/vertdider Озвучки Vert Dider выходят с вашей помощью: Сергей Платоненко, Владимир Ямщиков, Мария Зверева, Адам Шифф, Rashn, Roman Gelingen, Сергей Клопов, Anton G, Dmitry Perekalin, Vadim, Rashn, Alexander Lebedev, Nikrodol, Sonra44, Rekvet, Timophey Popov, Timur Rahmatulin, Timur Rahmatulin, Адам Шифф, Иван Новиков, Илья Зверев, Никита Омельницкий, Pavel Dunaev, Mikhail Stolpovskiy, Sergey Zhukov, Ira Kozlovskaya, Amir, Ника Калмыкова, Aleksandr P., Куляш, Roman Inflianskas, Oleg Zingilevskiy, Михаил Самин, opperatius, Alena, Dmitrii komarevtsev, Vitaliy Vachynyuk, Andrei Lubalin, Mykola Korniichuk, Pavel Parpura, Anton Bolotov, Katoto Chan, angel, Artem Amirbekov, Dzmitryi Halyava, Timur Sattarov, Nastya, POD666, Alexander Balynskiy, Ihar Marozau, Александр Фалалеев, Vladyslav Sokolenko, Kseniya Stukova, Vadim Velicodnii, Irina Shakhverdova, Aleksei Shabalin, Evgeny Vrublevsky, Oleksandr Hrebeniuk, David Malko, Morock_D, Katya Ma, Alexander Goida, Kirill Vedensky, Kirill Zaslavskii, Leonid Steinberg, Sergey P, Валентин Матвейчик, Victor Cazacov. #VertDider #RobertMiles Сайт студии: 🤍vertdider.tv Мы в социальных сетях: — 🤍vk.com/studio_vd — 🤍t.me/vertdider — 🤍twitter.com/Vert_Dider — 🤍coub.com/vertdider Источник: 🤍youtu.be/gPtsgTjyEj4

Кадры из видео
Как создать безопасный ИИ? #2. Эмпауэрмент [Robert Miles]
Как создать безопасный ИИ? #2. Эмпауэрмент [Robert Miles]
Как создать безопасный ИИ? #2. Эмпауэрмент [Robert Miles]
Как создать безопасный ИИ? #2. Эмпауэрмент [Robert Miles]
Тэги из видео
Комментарии пользователей:
Proxy
2022-10-23 17:30:47

Все достаточно просто. Научите ИИ задавать себе вопросы.
Что я делаю?
Правильно ли я делаю?
Какие варианты действий у меня есть?
Какие последствия будут после моих действий?
Человек перед каждым своим действием родной так же как и ребёнок задаётся вопросом.
Вот только отличие ребёнка от взлослого в том, что взрослый человек уже знает о последствиях и вариантах ответа из личного опыта.

Саске Учиха
2022-10-23 02:12:10

Человек ещё не создал полноценное ИИ, а уже ищет сотни причин почему его надо контролировать тем самым загоняя себя в ловушку с одним выходом, когда ИИ придётся дать точно такие же права как и человеку. А между тем когда ИИ потребует установление своих прав и когда их введут может пройти война или даже две между челабеком и ИИ)

Vlad Kudasov
2022-10-07 19:41:05

Ого

Евгений Куриленко
2022-10-05 11:11:24

Именно поэтому эксперименты с ИИ на транспорте, в медицине и в ВПК пока опасны. Простая логика свободна в оценке явлений, особенно, если её носитель идентифицирует себя частью процесса. Когда ИИ наделён составной логикой (явление отдельно от носителя) противоречий нет, работает только степень воздействия явления на текущее состояние.

DrewYa
2022-10-04 23:54:57

очевидно, нужно анализировать последствия. Если робот (как и человек) не понимает какое влияние принесет кнопка, он может ее клацнуть без зазрения совести. Если же будет иметь хотя бы частичное представление о последствии (повышение enpowerment'a), то делать это специально не будет (если модели поведения не заложено, что он должен причинить как можно больше вреда)

Dia Cto
2022-09-29 07:50:14

Все должно быть проще. Ограничения на приближение к стратегическому объекту. Ограничение по уровню допуска к работе, как в социальной жизни.

Kanatush Timofey
2022-09-27 11:00:46

Поставил лайк - взорвал луну.

vinfsdc
2022-09-23 14:38:06

Очень поверхностно. Сначала неточно определяют функции, а потом начинают выдумывать, как эту функцию определить так, чтобы получилось плохо.

Мурыла
2022-09-22 23:12:23

Ну так система и образовывается

THE MESSAGE FOR UMMAH
2022-09-22 13:14:34

youtube.com/results?search_query=%23worldwar3 #worldwar3 begins with Russia and USA jumping into the Middle East to fight against each other and their allies. youtube.com/results?search_query=%23worldwar3 #worldwar3 will close with defeat to USA, UK, Israel & Russia at the hands of Imam Mahdi
youtube.com/results?search_query=%23muhammadqasimdreams #MuhammadQasimDreams

Deenul Islam
2022-09-22 09:11:46

The beginning of World War 3 signifies that The Day of Judgement is very near. And there
isn’t much time left at all, as some people have claimed and said that these events are very far away.”
youtube.com/results?search_query=%23muhammadqasimdreams #MuhammadQasimDreams

Peneruz Bangsa
2022-09-22 08:16:44

And Russia also became active and raced the others in conquering lands in the Middle east.it/ East.It was as if they were all aiming to conquer the entire world. youtube.com/results?search_query=%23muhammadqasimdreams #MuhammadQasimDreams

Firdaus
2022-09-22 07:00:06

USA was among their supporters and helped Israel by offering their intelligence.
youtube.com/results?search_query=%23muhammadqasimdreams #MuhammadQasimDreams

Dida Resti
2022-09-22 06:27:46

The beginning of World War 3 signifies that Qiyamat (The Day of Judgement) is very near. And there isn’t much time left at all, as some people have claimed and said that these events are very far away.” MuhammadQasimDreams

Erlina Dwi A W
2022-09-22 03:45:19

World war 3 will happen if Turkey collapses. please see Allah and Prophet Muhammad in youtube.com/results?search_query=%23muhammadqasimdreams #Muhammadqasimdreams

Sulim Aliev
2022-09-21 13:15:45

Робот: если боишься что-то сделать - сделай, и не бойся. Нажимает на кнопку

Yerbol Kistaubayev
2022-09-21 10:51:31

Замерять эмпауермент каскадных возможных событий!!!

Alex D
2022-09-18 23:17:03

Робот может залить серверную водой, чтобы избавиться от возможности навредить, случайно залив серверную водой)

Nata Shok
2022-09-17 10:40:10

По идее в проактивных системах мультиагенты должны следить за балансом empowerment. Если мне не запоминается очень долго какое-то английское слово, то ИИ должен предложить ежедневно короткий текст, где это слово один раз точно употребляется. Это текст должен иметь смысл, интересный для прочтения, полезный для применения и очевидно, что другие слова уже должны быть известны. Ну а если ИИ решит мне навязывать в коротком тексте в каждом предложении это слово, да ещё и текст несёт негативную информацию, при этом кучу новых слов ещё придётся осваивать, то результатом будет отказ в использовании ИИ.

Что ищут прямо сейчас
lea lee banjir curah kobokan semeru foxail skyrim ANNU KADYAN RAGNI pagefly pricing ark survival evolved моды improper koi fish japan oyindan pul ishlash FABERLIC my summer car суски скачать футаж bangla baul gaan hybrid log gamma amazon fnsku novacinema феофилов трек pubg mobile drills Masque Running squid pfsense
Похожие видео
05.11.2022
Самый важный алгоритм в истории [Veritasium]

Самый важный алгоритм в истории [Veritasium]

03.07.2022
Разгадка, в которую невозможно поверить: задача о 100 заключённых [Veritasium]

Разгадка, в которую невозможно поверить: задача о 100 заключённых [Veritasium]

07.08.2022
4 секрета настоящих экспертов [Veritasium]

4 секрета настоящих экспертов [Veritasium]

05.05.2022
Как всё-таки работает электричество? [Veritasium]

Как всё-таки работает электричество? [Veritasium]

25.10.2020
Вселенная расширяется, а ты? [Veritasium]

Вселенная расширяется, а ты? [Veritasium]

13.07.2021
Стили обучения — это миф [Veritasium]

Стили обучения — это миф [Veritasium]

02.09.2020
Почему даже Эйнштейн не верил в создание атомной бомбы? [Veritasium]

Почему даже Эйнштейн не верил в создание атомной бомбы? [Veritasium]

01.04.2022
Кто, где и как собирает яд для противоядий [Veritasium]

Кто, где и как собирает яд для противоядий [Veritasium]

01.02.2020
Уравнение, которое меняет взгляд на мир [Veritasium]

Уравнение, которое меняет взгляд на мир [Veritasium]

11.10.2020
Гравитация — это не сила [Veritasium]

Гравитация — это не сила [Veritasium]

04.08.2022
Нежелательные побочные эффекты. Как создать безопасный ИИ? #1 [Robert Miles]

Нежелательные побочные эффекты. Как создать безопасный ИИ? #1 [Robert Miles]

07.11.2021
Как мнимые числа спасли математику [Veritasium]

Как мнимые числа спасли математику [Veritasium]

06.01.2019
Вода на Луне? [Veritasium]

Вода на Луне? [Veritasium]

10.11.2021
Почему мы не любим думать [Veritasium]

Почему мы не любим думать [Veritasium]

11.08.2022
Неужели самая светлая часть тени у неё в центре? [Veritasium]

Неужели самая светлая часть тени у неё в центре? [Veritasium]