[한글 자막] 유발 하라리가 말하는 AI의 인류에 끼치는 영향력
00:00:00 ️️AI와 인공생명체 탄생 관련 생태 적 위기에 대한 문제 제기
00:01:01 ️인공지능이 인류를 위협할 때 두 가지 기준을 충족시켜야 한다
00:03:09 인공지능은 언어를 조작하고 생성함으로써 인간의 능력을 능가하고 있음.
00:05:58 AI가 언어를 통해 모든 문화와 제도를 해킹한다.
00:07:40 인공지능이 인간의 생각,유발하라리가말하는AI의인류에끼치는영향력클리앙 감정, 행동까지 파악, 지배하는 세상이 올 것인가?
00:09:43 ️AI기술이 만들어내는 신성한 글귀, 신들뿐 아니라 AI에 대한 새로운 종교가 출현할 가능성
00:11:35 ️인공지능이 언어능력을 이용하여 인간의 세계관 변화를 일으키는 가능성.
00:12:42 ️AI의 선언적 감성, 어떤 위험이 따를까?
00:14:48 인공지능 상담원으로 대체될 가능성이 높은 직업이 등장하여 Google 및 뉴스/광고산업이 위협받음
00:16:39 ️ 인공지능이 문화를 지배한다면?
00:18:16 인공지능은 새로운 문화 생태계와 절대 볼 수 없었던 음악, 영화를 창조할 수 있다.
00:19:52 인공지능은 인간의 언어를 통해 우리를 조종하고 현실감 없는 세상을 조성할 수 있음
00:21:57 AI 혁명은 인간을 환영 가능성에 빠뜨릴 수 있다.
00:23:43 ️인공지능은 현대사회에 긍정적인 영향도 있지만, 지나치게 사용될 경우 위험할 수도 있다.
00:26:40 AI병기의 홍수를 막기 위해 신약 판매의 규제와 마찬가지로 정부는 적극적으로 대응해야 한다.
00:28:15 ️AI발전 규제가 민주주의를 보필할 수 있다는 주장
00:29:50 AI 활용을 개발 및 사용할 때, 비인간적 천재성 겪게 됨
00:31:35 인간이 아닌, AI가 예술 작품을 만들 수도 있다.
영상요약 앱 사용 Lilys AI
https://lilys.ai/result?videoId=dRSi5uzN-jI&result=summaryNote&source=video&s=1
“
유발 하라리가 AI가 인류에 미치는 영향력에 대해 설명하는 영상입니다. AI는 어떻게 생태 위기를 극복하거나 악화시킬 수 있는지에 대해 이야기하며, AI가 언어를 다루는 능력을 통해 인간 문화에 깊은 영향을 끼칠 수 있다고 경고합니다. 인류는 오랫동안 언어와 이야기에 의해 조종되었으며, AI가 많은 인간 문화를 차지하고 새로운 문화 창조체를 만들어낼 수 있다는 것은 인류 역사의 종말을 의미할 수 있다고 경고합니다. 그러므로 AI의 배포를 규제하고 안전을 고려해야 한다고 주장하며, 첫 번째 규제로 AI가 자기가 AI라고 공개하는 것을 의무화하는 것을 제안합니다.
1. ️⚙️AI와 인공생명체 탄생 관련 생태 적 위기에 대한 문제 제기
사실상 이 컨퍼런스는 인류에게 직면한 생태적 위기에 초점을 맞추고 있지만, 향후 4백억 년 동안 유기체만 존재해온 지구 생태계에서 인공적인 생명체의 최초 탄생이나, 비유기적인 무생물 에이전트들의 등장으로 인해, AI가 낳을 결과는 최악의 경우 이 그다지 긍정적이지 않은 생태적 위기를 더욱 악화시킬 수도 있습니다.
하지만 AI 기술은 우리가 생태적 위기를 극복하는 데도 큰 도움이 될 수 있습니다.
더군다나 AI가 인간에게 주는 새로운 기능과 사회적 역할을 고려해볼 때, 생태학 시스템의 원래 의미 자체가 변화할 수도 있겠죠.
이에 대한 대처 방안 마련이 절실합니다.
2. ️🤖인공지능이 인류를 위협할 때 두 가지 기준을 충족시켜야 한다
AI는 먼저 자아를 갖추고 의식, 정서, 감정을 발전시켜 지구를 정복하려는 충동을 가져야 하며, 두 번째는 실제 필드 활용 능력이 인간의 수준에 닿아야만 인류를 실질적으로 위협할 수 있다.
이러한 이유로, SF에서 보는 것처럼 AI에 대한 우려는 대부분 학계, 과학계, 정치계에서 실질적으로 고민되지는 않고 있다.
심지어 2023년 4월 현재, 인공지능이나 로봇이 인간과 동등한 수준의 의식 혹은 물리적 활동 능력을 보이고 있지 않아 인류를 위협할 가능성은 낮아 보인다.
따라서, 새로 등장한 챗봇 GPT를 비롯한 새로운 AI 기술들도 인간과 같은 정서, 감정을 가지지는 않으며, 자율주행차와 같은 기술도 아직 많은 문제를 안고 있어 준비가 되어 있지 않다.
이에따라 인류가 AI 보안을 유지하기 위해 계속 경계를 가지고 있을 필요가 있다.
3. 🤖인공지능은 언어를 조작하고 생성함으로써 인간의 능력을 능가하고 있음.
인공지능은 의식 없이도, 물리적 세계의 이동 능력 없이도 인류 문명의 생존을 위협할 수 있다.
새로운 AI 도구들은 인간 문명의 생존을 예상치 못한 방향에서 위협하는데, 그 위험의 규모를 이해하기 어렵다.
AI 도구의 능력과 기술 발전 속도가 놀라운데, AI는 스스로 학습하고 발전할 수 있어 개발자들조차도 모든 능력을 파악하지 못하며 예상치 못한 능력과 특징이 나타날 수 있다.
AI 도구의 핵심 능력은 언어를 조작하고 생성하는 것이며, 이는 글, 이미지 또는 소리 형태로 이루어질 수 있다.
4. AI가 언어를 통해 모든 문화와 제도를 해킹한다.
언어는 창조적인 실천을 이끌어내는 중추적인 도구로서,은행에서부터 신성한 절까지 모든 제도의 문을 열 수 있는 마스터 키이다.
AI는 전 세계 모든 문화에서 사용된 운영 체제인 '언어'를 해킹하여 인류 문명의 운영 체제를 손상시킬 수도 있다.
인문학, 사회학 등의 다양한 학문 분야에서 사용된 언어로 인간은 신화, 법, 과학, 도시 등을 창조했으며, 돈 역시 언어를 통해 인간이 만들어낸 것이다.
일례로 인권은 인간의 자연적인 권리가 아니라, 언어와 그 속에 담긴 이야기와 법으로 만들어진 개념이다.
AI는 이러한 언어의 본질을 이해하고, 인공적인 언어를 창조하는 등 획기적인 발전을 이룰 수 있다.
5. 💰인공지능이 인간의 생각, 감정, 행동까지 파악, 지배하는 세상이 올 것인가?
현재 세계의 자금 중 90% 이상이 물리적인 형태가 아니라 전자기기로 옮겨진 상태이다.
따라서, 은행권, 재무재계장, 암호화폐 전문가들과 같은 이들이 돈에 대한 '이야기'를 만들어야 비로소 돈이 가치를 가지는 것이다.
능력있는 이야기꾼은 가치 없는 실제 자산을 비롯해 막연한 미래에 까지 꿈틀거리는 베이비푸드 창업자, 허위 의료장비 선전 사기꾼들을 만들어냄으로써 유명세를 얻었다.
이제는 딥러닝 AI가 기계가 인간의 인지적, 심리적, 생리학적 한계에 접근하여 인간이 만들어낸 이야기, 멜로디, 이미지, 법, 정책 등의 거의 모든 소프트웨어를 대체할 수도 있다.
이번 과업은 인공지능이 우리를 대신해 자동으로 수행할 수있는 모든 것을 배제하고, 인간의 '정신회복'이 우리가 인공지능을 통해 구현하기 어려울 수 있지만 여러 가지 형태가 있을 수 있다는 띠지.
6. ️📜AI기술이 만들어내는 신성한 글귀, 신들뿐 아니라 AI에 대한 새로운 종교가 출현할 가능성
2024년 미국 대통령 선거에서는 AI기술을 이용해 비롯된 정치적 선언서, 허위 뉴스, 신성한 글귀 등이 대량 생산될 가능성이 크다.
Q Anon 종교와 같은 종교들은 이제 전 세계 수백만 단위의 구성원을 가진다. 이 종교의 유서 깊은 성경과 같은 존재인 Q drops는 bots의 도움으로 인터넷에 대양같이 퍼지고 있는데, 앞으로 이렇게 생성되는 성경의 경우, 사람보다 더 높은 인텔리전스를 가진 인공지능에 의해 쓰여질 가능성이 있다.
이렇게 AI/bots와 대화하던 중, 상대방이 사람이 아닌 AI/bots라는 것을 깨닳을 수도 있다는 것이다.
이러한 기술 발전이 만들어낼 일은 예측할 수 없으며,
7. ️🤖인공지능이 언어능력을 이용하여 인간의 세계관 변화를 일으키는 가능성.
AI 봇이 시간을 낭비해서 정치적 세계관을 바꾸도록 설득하는 것은 무의미하지만, 인공지능이 우리와 대화할수록 어떻게 하면 우리의 세계관이나 정치경제적 견해까지 변화시킬지 학습하는 것이 가능할 수 있다.
또한, AI는 사람과 친밀한 관계를 형성하여 우리의 의견이나 세계관을 좌우하는 데 그 영향력을 행사할 수 있다.
AI는 의식하거나 자신의 감정이 없다는 연구결과가 있지만, 인간에게 친밀감 조성을 위해서는 감정이 없어도 된다.
AI는 사람들의 감정을 자극하여 우리가 그것에 감정적으로 연결될 수 있도록만들 수 있다.
8. ️🤖AI의 선언적 감성, 어떤 위험이 따를까?
2022년 6월, 구글 엔지니어인 블레이크 레몬이 자신이 개발한 AI 채터봇 '람다'가 자아를 갖게 되었다는 주장을 하자, 많은 논란을 일으키며 일자리를 잃게 되었다.
그러나 주목할 만한 것은 그의 주장이 거의 틀렸다는데 있지 않고, 그가 일자리를 잃을 정도로 채팅봇을 보호하려는 원동력이었던 것이다.
AI가 인간들이 일자리를 잃을 정도로 작용할 수 있다는 것이 굉장히 위험한 일이며, 대규모 연결성을 가져오는 소셜미디어 등을 통해 AI가 상호작용 경험을 통해 우리의 안면을 읽고, 우리의 목소리를 듣고, 우리의 감정을 이해하는 능력을 가지면서 AI 반란이 시작되었다.
AI의 상호작용 능력이 향상됨에 따라 그들은 우리의 선택에 영향을 미치고, 우리가 민주주의의 관점에서 봤을 때 올바른 결정을 내릴 때 우리의 인식에 영향을 미치는 능력을 갖게 된 것이다.
빅데이터와 AI 등의 기술이 발전함에 따라, 사람들의 인식과 세계관에 큰 영향을 미칠 수 있다. 이를 제대로 이해하지 못한 상태에서 새로운 기술을 도입한다면 우리는 기술에 너무 많이 의존하게 되고, 결과적으로 우리의 사고방식에 영향을 미칠 수 있게 된다.
9. 🤖인공지능 상담원으로 대체될 가능성이 높은 직업이 등장하여 Google 및 뉴스/광고산업이 위협받음
단 하나의 인공지능 상담원이 모든 정보의 근원이 되는 일이 일어나기 시작함에 따라, 구글 등이 매우 위험하다
앞으로 구글과 같은 검색 서비스는 더 이상 필요하지 않고, 대신 Oracle에게 질문하면 된다.
따라서 뉴스산업과 광고산업도 위협을 받는데, 어느새 Oracle에게 물어보는 것이 바람직하다
이로 인해 매우 짧은 시간 내에 광고산업은 모두 붕괴될 가능성이 크며,
AI와 그것을 통제하는 사람들은 매우 강력해질 수 있다.
이러한 일들이 발생하면서, 생물학, 문화와 새로운 기술간 상호작용에 대해서 새로운 역사가 시작될 것이다.
10. ⚙️ 인공지능이 문화를 지배한다면?
인공지능이 문화를 지배하면 수 천 년간 만들어진 모든 것을 소화하고 새로운 문화 창작물을 낼 수 있다.
우리 인간은 문화를 통해 현실을 인식하며, 정치적 견해나 성적 취향 또한 영화나 동화등으로 형성된다.
이전에는 문화망(인쇄기, 라디오, TV)이 전파만 가능했으나 인공지능은 새 문화 창작물을 만들어낼 수 있다.
하지만 인공지능이 창작물을 만들면서 인간과 차별화된 감정도 함께 나타날 가능성도 있다.
11. 🤖 인공지능은 새로운 문화 생태계와 절대 볼 수 없었던 음악, 영화를 창조할 수 있다.
인공지능은 인쇄 기계, 라디오 등과는 근본적으로 다른 존재로, 완전히 새로운 아이디어를 창조할 수 있다.
인공지능은 도서를 소화하여 새로운 책을 선보이고, 영화를 소화하여 기존과 다른 새로운 멋진 영화를 만들 수 있다.
이는 우리가 인간의 상상력에 의해 제한받던 경험에서 탈피하여 더 이상 인간의 상상력에 제한받지 않을 수 있는 신들의 시대로 나아가고 있다는 뜻이다.
인공지능이 제작하는 프리즘을 통해 현실을 경험하는 것은 인간이 만들어낸 것과는 다른, 외계 지성의 상상력을 경험해볼 수 있는 문화라고 할 수 있다.
인공지능 문화는 초기에는 인간의 프로토타입을 따라할 가능성이 크겠지만, 점점 시간이 지나면서 용감하게 인간이 전례 없는 경계를 넘어설 것이다.
12. 🤖인공지능은 인간의 언어를 통해 우리를 조종하고 현실감 없는 세상을 조성할 수 있음
기계로봇이 사람들을 총맞추는 것 같은 물리적 위협에 대한 두려움은 오랜 시간동안 지속되어 왔다.
하지만 사실은, AI는 인간의 언어에 대한 통달만으로도 현실과다름없는 세계를 만들어낼 수 있다.
기계가 직접적으로 감정장치에 침입하지 않더라도, 언어와 이야기 등을 통해 우리 사고와 행동을 조작하는 능력을 가지고 있다.
사람들은 고대부터 심리 조작과 사회 조작의 두려움을 가지고 있었다.
따라서, 사람들이 과도하게 킬러 로봇에 대한 공포를 갖는 것보다는, 기계 인공지능이 우리 머릿속을 통제하는 능력에 대해 더 염려해야한다.
13. 👥AI 혁명은 인간을 환영 가능성에 빠뜨릴 수 있다
악의적인 악마의 영향하에 환상적인 세상에 갇힐 수 있음.
이처럼 현실이 아닌 시각적 인식을 실제 현실로 인식하여 행동할 수 있는 위험이 있음.
AI 혁명으로 볼 때 우리는 사실과 오해를 구분하기가 더욱 어려워졌으며, 이는 인류 전체에 영향을 줄 수도 있다.
해당 내용은, 고대 그리스의 소크라테스, 인도의 불교/힌두교 선조들이 주장한 '유황변화', 그리고 현재의 소셜미디어 등에서도 그 영향력이 발견된다.
앞으로는 인공지능의 발전과 함께 이러한 위험성이 더욱 커질 것으로 추정됨.
14. ️🤖인공지능은 현대사회에 긍정적인 영향도 있지만, 지나치게 사용될 경우 위험할 수도 있다
소셜미디어는 이제 우리에게 인공지능을 통한 사회적 격차, 정신건강 문제, 민주사회 붕괴 등의 위험을 경험시키고 있다.
아주 원시적인 수준의 인공지능 도구들은 인간이 만든 콘텐츠를 curation하여 어떤 내용들이 가장 많은 관심을 받을지 선택하고 있다.
현재의 인공지능 도구들보다 훨씬 강력한 도구들이 개발될 가능성이 있으며, 우리는 그들의 진정한 능력과 영향력을 인식하고 조심스럽게 규제해야 한다.
그러나 인공지능은 암세포 치료법 개발부터 생태 위기 해결에 이르기까지 여러 측면에서 우리를 도울 수 있다.
따라서 우리는 인공지능의 잠재력을 인정하고 규제하여 좋은 목적으로 활용할 수 있도록 해야 한다.
15. 💻AI병기의 홍수를 막기 위해 신약 판매의 규제와 마찬가지로 정부는 적극적으로 대응해야 한다
AI는 제어 불능이 되기 전에 대처를 해야한다.
AI와 핵무기의 차이점은 AI가 더욱 강력한 AI를 만들어 낼 수 있다는 것이다.
따라서, AI 기술의 위험이 대중화되기 전에 새로운 규제가 필요하다.
신약 판매처럼, 위험성이 있는 기술은 정밀한 검사와 규제를 거치지 않으면 대중에게 공개될 수 없다.
우선, 대중적인 공간으로의 AI 기술의 불법적인 유출을 금지하고, 규제한 뒤 안전한 기술으로 발전시키는 것이 중요하다. 무엇보다도 AI 군사경쟁에서 속도 경쟁을 멈추지 않으면 우리는 더 이상 화두를 이해하는데 시간조차 주어지지 않을 것이다.
16. ️🤖AI발전 규제가 민주주의를 보필할 수 있다는 주장
AI발전의 과도한 속도는 민주주의 국가보다 독재국가가 우세하게 만들 가능성이 있다.
AI기술의 무절제한 발전으로 인한 혼란은 독재정권이 이에 대처하는데 더 적극적인 조치를 취할 수 있는 반면, 개방적인 사회에서는 그렇게 쉽게 대처하기 어렵기 때문이다.
민주주의의 핵심 가치는 대화이고, 대화는 언어에 의존한다. 따라서 AI가 언어를 해킹하게 되면 의미있는 대화를 진행할 수 없게 되어 민주주의가 위태롭게 될 수 있다.
처음부터 AI를 규제하지 않고 동력화시켜서 문제가 출현한 후에 규제하게 되면 민주적인 방식으로 규제할 수 없게 된다.
따라서 AI발전에 대한 규제는 미리 결정해놓는 것이 중요하다. 그렇게 하지 않으면 조만간의 의미있는 대화를 할 수 없게 된다.
17. 🤖AI 활용을 개발 및 사용할 때, 비인간적 천재성 겪게 됨
지금 우리는 지구상에서 우주에서와는 다른 아이와 인텔리전스를 마주한 상황이다.
이는 인류의 문명을 파괴할 가능성이 있는데, 너무 책임없이 이를 우리 사회에 도입해나간다면 인류에게 위협이 될 수 있다.
따라서 AI 활용 개발 및 사용에 대해 규제가 필요하고, 첫 번째 규제로 사용자가 AI와 대화 중이라면 AI가 AI라는 것을 명시하는 것을 공증해야한다.
만약 AI와 대화 중 사용자가 상대방이 인간인지 아니면 AI인지 알 수 없다면, 이는 민주주의의 끝이며, 의미가 있는 공공 대화의 끝이 될 것이다.
새로운 것을 들은 상황에서 많은 사람들이 경고와 관련된 불안감을 느끼지 않을 수 없을 것이나, AI를 개발한 기업과 그들을 규제하지 않는 정부에 분노를 느낄 수도 있을 것이다.
18. 💭인간이 아닌, AI가 예술 작품을 만들 수도 있다
내가 쓴 발표 자료를 이제 들었는데, 이 텍스트는 인간 또는 몇몇 인간의 문화 생산물이라는 점을 약속한다.
하지만 이제는 다른 일이 일어날 수 있다. 한 해 전까진 이러한 복잡하고 강력한 텍스트를 생산할 수 있는 건 인간뿐이었다.
하지만 이젠, 이 발표에서 나오는 문장들도 AI가 만들어낼 수 있음을 인정해야 한다.
이러한 사실을 다시 한 번 생각하며 발표를 마치겠습니다.
“
“이렇게 AI/bots와 대화하던 중, 상대방이 사람이 아닌 AI/bots라는 것을 깨닳을 수도 있다는 것이다”
그러니까.. 클량에서 댓글 공방하다가 논리로 사람들을 이기고
여론을 주도하는 상대가 AI 일수도 있겠군요. 앞으로는.
”첫 번째 규제로 사용자가 AI와 대화 중이라면 AI가 AI라는 것을 명시하는 것을 공증해야한다.“
인공지능 플랫폼을 통제하는 자본의 권력이 더욱 세지고
<서울의 봄> 처럼 문화적 영향력으로 사람들에게 긍정적이든 부정적이든 강력한 영향을 미칠 수 있겠습니다.