ChatGPT가 세상을 이해하지 못하면 인류를 파괴할 수 있습니까?

많이 논의된 LLM(대형 언어 모델)의 환각, 불안정성 및 해석 가능성 부족에 이제 유해한 콘텐츠를 생성하도록 강요하는 자동화된 적대적 공격에 대한 취약성을 추가할 수 있습니다. 그러나 이것은 그들의 약점 중 가장 작은 것입니다. 인간 세계에 대한 이해의 깊이는 LLM이 "초지능"이 되기 전에 극복해야 할 훨씬 더 중요한 장애물입니다.

그러나 ChatGPT 창시자인 OpenAI에 따르면, 이 "인류가 발명한 가장 영향력 있는 기술"은 "금년에 도래"할 수 있으며 "인류 멸종으로 이어질" 수 있습니다.

지원 서비스 개념을 위한 Chatbot 기호입니다.

우리는 이미 몇 년 전에 인간과 유사한 AI가 곧 등장할 것이라는 소식을 들었습니다. Terry Winograd가 1960년대 후반에 대학원에 입학했을 당시 대부분의 [지적이고 지식이 풍부한 인간]은 “머지않아 기계가 보고 듣고 말하고 움직이고 인간과 유사한 작업을 수행할 것이라고 믿었습니다”라고 John Markoff는 썼습니다. 은혜를 사랑하는 기계에서.

MIT에서의 박사 학위 논문을 위해 Winograd는 만들어진 세계, 즉 장난감 블록으로 구성된 "마이크로 세계"와 이를 움직이는 "그리퍼"에 대한 대화에 참여할 수 있는 컴퓨터 프로그램인 SHRDLU를 개발했습니다. 그리퍼를 사용하여 블록을 조작하라는 영어 명령에 응답했으며 세계 상태에 대한 질문을 "이해"했습니다.

인공 지능의 역사에서 Nils Nilsson은 SHRDLU의 인상적인 성능으로 인해 일부 NLP 연구자들이 "미래 성공에 대해 낙관적"이라고 말했습니다. 그러나 “Winograd는 컴퓨터와 사람의 상호 작용에 전념하는 연구를 추구하기 위해 곧 이 연구 계열을 포기했습니다. 아마도 그는 블록 세계처럼 단순한 것에서 성공적인 언어 이해를 위해 얼마나 많은 지식이 필요한지 직접 경험했기 때문에 인간의 모든 언어 능력을 복제할 만큼 충분한 지식을 컴퓨터에 제공하는 것을 절망했습니다.”

이후 2006년에 Winograd는 통계적 언어 이해, 신경망 및 기계 학습이 AI 분야를 인간-컴퓨터 상호 작용에 대한 자신이 선호하는 접근 방식 방향으로 움직이는 새로운 발전으로 보았습니다. 그는 "실제 인간 세계의 복잡성을 알고 모델링하는 데 한계가 있다"는 점을 인정하면서 "깨달은 시행착오가 완벽한 지성의 계획보다 더 뛰어난 성과를 낸다"고 썼습니다.

특히 2012년 이미지 식별 분야에서 AI에 대한 통계적 분석 접근 방식의 추가 승리로 인해 대부분의 지능적이고 지식이 풍부한 사람들은 인간과 유사한 기계 지능 또는 심지어 "초지능"이 곧 다가올 것이라고 믿게 되었습니다.

전부는 아니지만 대부분입니다. 새로운 AI의 지능에 의문을 제기하는 사람들이 사용하는 인기 있는 도구 중 하나가 Winograd Schema Challenge로 알려졌습니다. 이것은 Winograd의 1972년 "자연어 이해"에서 언급된 의미 모호성의 예를 기반으로 토론토 대학의 Hector Levesque가 2010년에 고안한 것입니다. 레베스크는 튜링 테스트의 한계를 극복하기 위해 문장에서 모호한 대명사를 정확하게 풀어야 하는 객관식 테스트를 제안했다. 예를 들어,

트로피가 너무 커서 갈색 여행가방에 들어가지 않습니다. 너무 큰 것은 무엇입니까?

A. 트로피

B. 여행가방

“이 도전은 연구 커뮤니티와 대중 과학 언론 모두로부터 상당히 호의적인 관심을 끌었습니다. 문제의 자연스러움으로 인해 AI 시스템에서는 공정한 문제가 되었습니다. 관련된 추론의 복잡성으로 인해 당시의 기술 범위를 훨씬 넘어서는 것처럼 보였습니다.”라고 “Winograd 스키마 도전의 패배”(2023년 1월)의 저자는 썼습니다.

실제로 2016년에 열린 “처음이자 마지막으로 진행된 위노그라드 스키마 챌린지”에서 참가한 6개 AI 프로그램 중 가장 성공적인 프로그램은 테스트 수집에서 58%의 점수를 달성했는데, 이는 우연보다 약간 나은 수준이었습니다. 같은 해 첫 번째 O'Reilly AI 컨퍼런스에서 일부 사람들은 곧 다가올 "초인적" 무인 자동차에 대해 이야기한 반면, 딥 러닝의 선구자인 Yann LeCun을 포함한 다른 사람들은 Winograd 스키마를 테스트에서 해결되지 않은 과제로 언급했습니다. 세상이 어떻게 돌아가는지에 대한 기계의 지식.