Кто победил в битве гигантов – мозг или искусственный интеллект? 18:48 19/01/2018 Потеря контроля над искусственным интеллектом – это тот страх, который подспудно живет в человеческом сознании со времен Станислава Лема и первых ЭВМ, занимавших целые этажи. Мы боимся, что эта тупая железка когда-нибудь станет умнее нас. Причем настолько умнее, что в этом мире для нас уже не будет места.
В заключительный третий день Гайдаровского форума психолингвист Татьяна Черниговская выступила с лекцией «Искусственный интеллект – вызов для человечества».
«МИР 24» публикует самые интересные моменты ее выступления. Мозг или Моцарт?
Благодаря тому, что у нас есть мощнейший мозг, мы развили наш мир и оперируем знаковыми системами: языком, математикой, живописью, музыкой. Этот мир представляет собой совокупность бесконечных повторов. Зачем нужны эти удвоения? Вот лежит яблоко. Зачем его рисовать или лепить? Но искусство не изображает и не копирует жизнь, оно его творит, говорил Лотман. Искусство придумывает жизнь, а потом жизнь сама начинает идти по этой дороге, предложенной искусством. Искусство может даже создавать такие ментальные объекты, которые не существуют в реальном мире, но, возможно, когда-нибудь в нем появятся. Искусство видит те области, которых еще нет. Это совершенно иной способ познания мира. И не стоит воспринимать искусство как десерт к серьезным вещам.
У деятелей искусства принципиально иное строение мозга. Но до сих пор не ясно, стал ли Моцарт Моцартом, потому что его мозг был устроен определенным образом, или его мозг стал таким, потому он играл на скрипке? Это открытый вопрос.
Представим, что Трамп с Ким Чен Ыном нажали на кнопки и нас не стало. Будут ли продолжать жить произведения искусства? Нет. Том Шекспира будет всего лишь физическим объектом. Так же и с музыкой. Если она звучит, но при этом нет того, кто может ее понимать, значит, нет и самой музыки. Для комара никакого Моцарта нет. Лотман говорил, что люди – единственные существа, которые способны к рефлексии, то есть к осознанию сознания. В том числе к осознанию себя. Мы комментируем не только то, что видим, но еще и то, как мы думаем. Это эффект двойного зеркала. Рефлексия – это, похоже, единственная из когнитивных возможностей, которая все еще отличает нас от других высших представителей, населяющих планету. Но кто его знает, что думает дельфин? Мы этого не знаем и не узнаем никогда. Компьютер победил человека?
Шахматный суперкомпьютер Deep Blue в 1997 году обыграл Каспарова. Человечество содрогнулось. Правда, когда проанализировали игру, все успокоились. Deep Blue был надрессирован на конкретного игрока, он знал все о том, как играет Каспаров. Эта была игра нечестная. Компьютер не устает, не нервничает, у него бесконечная память и гигантские скорости. Скорости компьютера несопоставимы со скоростями человеческого мозга. Эту игру мы давно проиграли. Но, похоже, что это только игра со скоростями. Настоящая игра еще впереди. И вот ее-то мы, возможно, не проиграем, если, конечно, не обезумеем окончательно.
Недавно была создана программа Libratus, которая обыграла в покер четырех игроков высшего ранга. Никто не думал, что ей это удастся, поскольку в покере есть блеф. Эта победа говорит о том, что искусственный интеллект приобрел не только алгоритмические черты. Он уже влез на человеческую территорию.
Говоря об искусственном интеллекте, мы боимся потерять контроль над ситуацией.
Но никто не задумывается, а есть ли у нас контроль над естественным интеллектом. Дело в том, что наш мозг – самодостаточный монстр.
Он принимает решения сам, и этим не ограничивается его коварство.
Как только он принимает решение, он посылает нам утешительный сигнал: «Ты молодец, все сделал правильно!»
Это ставит вопрос о том, насколько мы зависимы от мозга, есть ли у нас свобода воли? Нам кажется, что мы хозяева положения.
Но если мы детерминированы этим монстром, тогда кто мы здесь? Если мы собираемся состязаться с суперкомпьютерами в том, кто быстрее решит задачу, то уже поздно. Они нас победили. Если искусственный интеллект получит сознание, у него будут собственные мотивы, в том числе план жизни на этой планете. И мы в него не входим, мы ему явно не нужны. У него будет много возможностей нас уничтожить. Например, подсунуть нам что-нибудь в геном, создать саранчу, которая будет плодиться со страшной силой, «поработать» с электричеством. Проблема в том, что мы можем про это не узнать. Сейчас перед нами встал вопрос времен античности: мы кто такие и зачем сюда попали? Мозг – наш друг и враг
Если представить, что мы – сборище нейронов, и внутри нас – прекрасная программа, какая может быть свобода воли? Это значит, что никто ни в чем не виноват. В мире уже случались судебные процессы, где обвиняемый говорил: «Это не я, это мой мозг». Это разрушает базис нашей цивилизации: разве я виноват, что родился таким дураком или преступником? На эту тему нейрохирург Войно-Ясенецкий сказал так: «Я много оперировал на мозге и, открывая черепную коробку, никогда не видел там ума. И совести там тоже не находил». Это та же история, что с Гагариным. Когда он вернулся из космоса, атеисты его спросили, видел ли он Бога. Он сказал, что не видел. Они сделали вывод, что Бога нет. На самом деле из того, что мы чего-то не видим, ничего не следует.
У нас в голове находится сложнейшая нейронная сеть. Она протянулась на 2,8 миллионов километров. Этого достаточно, чтобы 68 раз облететь Землю или семь раз слетать на Луну. Эти ниточки находятся в голове каждого человека, не только Эйнштейна или Бетховена. Нейроны могут иметь от 50 до ста тысяч связей с другими частями мозга. При этом нейроны уложены в специальные клетки, которых в десять раз больше. Я не знаю, есть ли в языке слова, которые обозначают эти величины.
Похоже, что люди – единственные существа, которые живут не в одном мире. Первый – это мир физических объектов, который нас окружает. Второй – знаковый. Это особый мир, который мы сами придумываем. Он не состоит из атомов и порождается нашей психикой. Человек – единственное существо, которое разгадывает законы Вселенной. Но ведь она и так знает, как ей жить. Точно так же, как атомы и планеты знают, как им вращаться. Все законы природы действуют без человеческого участия. Тогда зачем мы ей понадобились? А был ли глагол?
Мы живем в другой цивилизации. Не стоит делать вид, что она где-то в будущем. Мы внутри нее живем, и она меняется с огромной скоростью. Наш мир уже не тот, в котором мы жили, например, пять лет назад. Он невероятно быстрый, прозрачный, мерцающий. Это необратимо, и имеет глобальное значение. Этот мир опасен. Мы должны выбрать между свободой и безопасностью. Это трудный выбор. Может, и удастся совместить одно с другим. Мне удобно, что с телефона я могу зайти в библиотеку Конгресса, но тот же телефон говорит кому надо, с кем я вчера обедала и что ела.
Мир стал нечеловекомерен. Появились величины и пространства, в которых человек не живет. Мы, например, не живем в наносекундах и нанометрах. В них вообще живые не живут. Но между тем нано – активный игрок нашей цивилизации. Значит, нам нужно договариваться, как не потерять базовые представления о реальности и контроль над нею.
Новый мир неизбежно ведет к пересмотру базовых этических норм, ценностей и смыслов. Категории права и морали внутри цифрового мира имеют совершенно иные конфигурации. Мы не сможем переварить эту цивилизацию, если у нас не будет мощных внутренних ориентиров. Например, у беспилотной машины есть выбор, сбить пять человек или одного. Значит, в нее надо заложить моральные категории. Но как это сделать и кто примет решение?
Мозг не умеет не учиться. Но учится он не так, как мы учим детей. Предположим, я – лингвист и хочу узнать, где внутри мозга расположены существительные, а где – глаголы. Я никогда этого не узнаю, если открою черепную коробку. Да и вообще, есть ли глаголы? Видел их кто-то живьем? А существительные? Но раз есть пациенты, которые после инсульта забыли глаголы, но помнят существительные, это доказывает, что такие категории в мозге существуют. Если бы мы узнали, как мозг на самом деле работает с информацией, это бы перевернуло всю систему образования. Справка:
Татьяна Черниговская – заведующая кафедры проблем конвергенции естественных и гуманитарных наук и Лабораторией когнитивных исследований, доктор, профессор кафедры общего языкознания, член Совета программы «Свободные искусства и науки» Санкт-Петербургского государственного университета, доктор биологических и филологических наук. На лекции побывала Алла Смирнова. Ю́рий Миха́йлович Ло́тман (28 февраля[1] 1922, Петроград — 28 октября 1993, Тарту) — советский и эстонский литературовед, культуролог и семиотик.
"Говоря об искусственном интеллекте, мы боимся потерять контроль над ситуацией. Но никто не задумывается, а есть ли у нас контроль над естественным интеллектом. Дело в том, что наш мозг – самодостаточный монстр. Он принимает решения сам, и этим не ограничивается его коварство. Как только он принимает решение, он посылает нам утешительный сигнал: «Ты молодец, все сделал правильно!» Это ставит вопрос о том, насколько мы зависимы от мозга, есть ли у нас свобода воли? Нам кажется, что мы хозяева положения. Но если мы детерминированы этим монстром, тогда кто мы здесь?" . Поможем доктору наук: здесь есть наше Я и наш Мозг. Относительно разделения головного мозга на Я и Мозг, так человечество давно уже пришло к подобной модели, только немного в ином варианте. Можно указать на беспилотные автомобили, но лучше всего это смотрится на примере луноходов, марсоходов т.е. дистанционно управляемых аппаратов. Пока аппарат катится, или находится в некритической ситуации, он обходится той частью памяти, которую ему выделили конструкторы. Аппарат имеет зрение слух, тактильность, обоняния пока нет?, и пакет программ, обеспечивающих обработку всей поступающей информации и принятие решений, это и есть Я. Основное программное обеспечение, наш Мозг, контролирует функционирование аппарата и поддерживает его параметры в норме. Как только создается критическая ситуация, к управлению подключается сам Мозг, если ему не хватает возможностей, он посылает запрос в центр управления, считай "Центр самосохранения", дальше работает удаленный Интеллект оператора. Намного ли человек отличается от написанного? Совсем, совсем не отличается, особенно учитывая попытки подключения компьютера к Мозгу, еще проще вживить чип в свой Мозг и установить связь через комп, со всей Инетой! Таким образом, "мы все здесь" просто интерфейс нашего головного Мозга. Я потратил почти два года на исследования, которые четко указали на такое разделение головного Мозга. Материалу много, смотреть И все-таки, проверяю.
Татьяна Черниговская объяснила, чем может быть опасен искусственный интеллект Четверг, 11 Ноября 2021 10:02
Новейшие разработки в сфере искусственного интеллекта требуют от инженеров и ученых понимания того, как не утратить контроль над "умными" системами, чтобы они не угрожали человечеству. Как сообщает РИА Новости, такое заявление сделала Татьяна Черниговская, завлабораторией когнитивных исследований и кафедрой проблем конвергенции естественных и гуманитарных наук СПбГУ. "Может ли искусственный интеллект стать личностью и обрести свое "я". Сегодня мы подходим к тому, что такая опасность появляется в реальном мире", — отметила Черниговская, выступая на научной сессии "Нелинейная наука: интеллектуальные ресурсы для будущего" конференции Российской ассоциации содействия науке. Черниговская добавила, что искусственный интеллект может базироваться на совершенно других принципах, чем интеллект человека. Кроме того, ИИ будет не только обучаться людьми, но и самообучаться. В этом свете ученым предстоит определить признаки, по которым можно будет установить, обрел ли ИИ свое "я" в определенный момент обучения. "Наука должна остановиться и подумать, как не утратить базовые представления о контроле за искусственным интеллектом. Развиваясь без контроля, ИИ может стать слишком опасным, поэтому человечество должно действовать на упреждение", — сказала исследовательница.
Пока вопрос и без ответа: почему при работе с математическими выражениями, например взятие интеграла, человек получает удовольствие. В свое время, на это обратил наше внимание преподаватель физики:"Вы еще плохо ориентируетесь в интегралах, ничего, "набъёте руку" и будете их щелкать как семечки и, получать при этом, еще и удовольствие!" Эйнштейн также обращает на это внимание восхищаясь абсолютным дифференцированием Леви-Чивиты: «Я восторгаюсь элегантностью Вашего метода вычислений; как, должно быть, приятно скакать через эти поля на жеребце чистой математики, в то время как остальные должны утомительно переставлять ноги»
"Дело в том, что наш мозг – самодостаточный монстр. Он принимает решения сам, и этим не ограничивается его коварство. Как только он принимает решение, он посылает нам? утешительный сигнал: «Ты молодец, все сделал правильно!» Это ставит вопрос о том, насколько мы зависимы от мозга, есть ли у нас свобода воли?" Суть понятна, но предложение нелогично! "Это значит, что никто ни в чем не виноват. В мире уже случались судебные процессы, где обвиняемый говорил: «Это не я, это мой мозг»." Возможно, что это ПФС, но верней всего- шизофрения!
"Предположим, я – лингвист и хочу узнать, где внутри мозга расположены существительные, а где – глаголы. Я никогда этого не узнаю, если открою черепную коробку. Да и вообще, есть ли глаголы? Видел их кто-то живьем? А существительные? Но раз есть пациенты, которые после инсульта забыли глаголы, но помнят существительные, это доказывает, что такие категории в мозге существуют." Если несколько раз повторить одно и то же слово, например "кабина", то человек перестает понимать его суть(это все знают). Получается, что мозг просто отключается от "непроизводительного" использования. В компьютерах, некоторые программы так делают.
"На базе своих идей я объявляю, что Бога- нет, есть просто Интеллект на основе распределенного разума индивидуумов, который направляет и управляет сознанием и, подчиняет остальную массу социума. И эта масса с удовольствием подчиняется ЕМУ. Именно на этой базе существуют все религии и, даже социальные сети. Объединённый Интеллект формируется на основе распределенного разума индивидуумов-единомышленников, это очень важный момент в этом процессе. Идём дальше. С появлением интернета и его совершенствованием, Интеллекты разрозненных социумов быстро объединятся в один планетарный "Супер разум", который будет решать уже свои проблемы, используя человечество как базу для своего сохранения!" Процесс давно идет и, ускоряется. И, повторюсь я!, :"И, знай же Боже, что МЫ творим тебя. Нас много, ты один и вечен будешь, лишь вместе с нами: исчезнем мы и ты исчезнешь! Не потому ли так сурово винишь ты в смерти нас. Зачем же нам себя винить в короткой жизни нашей: мы знаем как её продлить и, вечность Богу подарить!!" Это здесь!
Добавлять комментарии могут только зарегистрированные пользователи. [ Регистрация | Вход ]
Озарение.
0