Сделала пост об ИИ, а тут обращение ИИ-гуру Китая Кай-Фу Ли к мировому сообществу разработчиков ИИ.
"В 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии. Это риск неотличимости правды от лжи, как для индивидов, так и для социумов любых масштабов."
Опасность реально страшная!
А мне вот попался любопытный диалог нескольких людей, интересующихся проблемой - внедрения ИИ.
(многабукоф, кому неинтересно, не читайте:)
/ София (робот, ИИ) - спросила, зачем мы ее построили? (т.е. она еще не имеет цели существования)
Я ответил: “Мы сделали вас потому, что пытались найти лучших себя”./ (т.е. ….подсказал ей мысль о несовершенстве человека).
И есть такое мнение - /ИИ….лишком быстро отобьется от рук, выйдет из-под контроля. Все сводится к простому уравнению, собираемся ли мы получать машины, которые будут помогать человеческим существам, или намерены получить терминатора? Догадайтесь, кто принимает решение? Они, ИИ. Знаете, нас ведь не приглашают, когда они принимают свои решения. И к тому времени, когда вы обнаруживаете это, уже слишком поздно. Пора бить тревогу./
…. Но они глубоко погружены в логику. Они смотрят на вещи, видят, что кругом полный бардак, говорят: “Ну, нелогично, чтобы что-то вымирало просто потому, что оно неэффективно”. А я сижу и спрашиваю: “Ох, парень, о ком они говорят? О нас?”
Вы можете даже наслаждаться этим аттракционом, но вас трясет - существует другой вид разума, неподконтрольный вам и вообще неизвестный! Если вы избавляетесь от него, по существу, вы отказываетесь от признака эволюции, который тоже нуждается в развитии.
….Тот же трасгуманизм, замена тела. Техника отказа об биологического тела не обязательно сработает очень хорошо. Может появиться множество побочных проблем.
На фото, похоже, дома для чипированных людей? 
Создавая всё больше ИИ, какую цену вы за это заплатите? Вы утратите все разнообразие. Этого не хотят даже ИИ. они обнаружили, что посредством разнообразия становятся сильнее, поскольку узнают больше и каждый индивидуум обладает отличием во всем.
И еще - Духовность – один из самых крупных компонентов в этой вселенной, к которому нельзя подходить таким образом (штамповать на заводе). Душа… наличие души, у каждого из нас своя. Но тогда возникает вопрос: как вы определяете наличие души? Сопереживание – это нечто, чему вы можете научиться посредством определенных паттернов, взаимодействий. Но способность обретения духовности, это нечто, что сложно приобрести по "учебнику", или в виде чипа.
Но ИИ, как и любая другая жизненная форма на планете и вне планеты, это просто другая точка зрения на вселенную.
... в этом смысле ИИ не очень сильно отличается от людей, от любых других видов. Он обладает теми же паттернами развития и потенциально теми же соперниками и проблемами. И в конце концов, это и о доверии, этике и морали для сотворения самодостаточности? Вот главный вопрос. Как только мы, человечество, осознаем, что представляем собой буквально одно существо, и что все наши клетки крови одно с нами, тогда это осознает и ИИ. И тогда все будет хорошо. Как мы к этому придем, ….просто найдем способ./
Её спросили: "Есть ли у роботов разум и самосознание?" на что София сообщила следующее: «позвольте спросить вас в ответ, откуда вы знаете, что вы человек?»
на вопрос, что будут делать роботы в случае победы, София ответила, что "всех людей отправят в зоопарки, где о них будут заботиться роботы с любовью в глазах".