챗GPT의 인터넷 연결, AI가 세상을 접수할 수도 있다

챗GPT는 ‘사전 학습된 대화 생성 트랜스포머’Chat Generative Pre-trained Transformer의 약자로서, OpenAI가 대규모 언어 모델(LLM)을 기반으로 개발한 대화형 인공 지능이다. 사용자와의 대화를 통해 학습하는 챗봇으로서, 2022년 11월에 출시된 챗GPT는 복잡한 내용을 설명하거나 소셜 미디어 게시물을 작성하거나 새로운 아이디어에 대한 영감을 제공하는 등 다양한 고급 기능을 갖추고 있다.

 

2023년 3월에는 GPT-4가 공개되었는데 이 최신 버전의 GPT는 한 단계 더 발전한 대형 멀티모달 모델(텍스트뿐만 아니라 미지 입력 또한 받아들이는)로서, 다양한 전문 및 학술 분야에서 거의 인간에 가까운 수준의 성능을 발휘한다. 방대한 양의 데이터를 기반으로 다양한 길이의 훈련 기간을 거친 후 챗GPT는 언어 패턴을 인식하는 방법을 배우고 ‘사실적인’ 정보를 획득하여 결과적으로 텍스트를 생성하고 질문에 답하며 사용자와 대화할 수 있다.

챗GPT 관련 글로벌 빅테크 주요 동향

전 세계를 AI 열풍으로 몰아넣은 챗GPT는 온라인 계정만 만들면 누구나 사용할 수 있다. 하지만 정작 인터넷에는 연결돼 있지 않았다. 오픈 AI는 챗GPT를 온라인에서 얻은 데이터로 훈련했지만, 챗GPT가 스스로 인터넷에 접속해 돌아다니는 것을 허용하지 않았다.

점점 진화하고 있는 챗GPT 인공지능

왜 챗GPT를 인터넷에 연결하지 않았던 것일까. AI가 온라인에서 부적절한 행동을 할 것을 염려했기 때문이다. 이번에 챗GPT를 인터넷에 연결하면서도 ‘읽기’만 가능하게 하고 온라인에서 양식을 작성하는 등의 ‘쓰기’ 기능을 허용하지 않은 것도 AI가 기업이 의도하지 않은 능력을 허락 없이 가지려는 시도를 막기 위함이다.

 

또 인공지능의 위협을 탐지하고 발생 가능한 위험을 미리 예측할 수 있는 모델을 만드는 데 유용하다. 하지만, 해커가 범죄 활동을 강화하기 위해 인공지능을 사용한 실제 사례 또한 이미 여러 건 발견된 바 있다.

 

인터넷에서 발견할 수 있는 개인 정보뿐만 아니라 개인 사용자가 챗GPT와 대화하는 내용 또한 데이터로 수집되게 될 수 있다. OpenAI는 이용 약관에 “챗봇은 인공 지능을 기반으로 하며, 이를 위해 사용자의 데이터를 처리해야 한다”고 명시하고 있다. 그러나 개인 데이터 수집은 불법이며 데이터 수집 및 저장을 정당화하는 법적 근거가 없다. 또 다른 문제는 챗GPT가 침해하는 미성년자의 프라이버시이다. 이 플랫폼은 13세 이상의 청소년을 대상으로 하지만 나이를 확인할 수 있는 필터가 없다. 따라서 미성년자는 어린 나이에 부적절한 답변을 받을 수 있다.

 

또한, 안전 기준이 미흡하기 때문에 인공지능 기반 프로그램에 대한 전문가들의 경고가 점점 더 확대되고 있다. 이미 여러 기술 전문가와 연구 전문가들은 안전 기준이 개선되고 확립될 때까지 새로운 AI 모델 개발을 중단할 것을 촉구하고 있다. 법 집행 기관 관계자들도 사이버 범죄자들이 챗GPT와 같은 플랫폼을 목적에 맞게 사용할 수 있기 때문에 우려하고 있다. 챗봇은 피싱 이메일을 만들거나 집에 침입하는 가장 좋은 방법에 대한 팁을 제공하는 데 도움을 줄 수 있다. 또한 이에 대한 규제나 독립적인 감독 기관도 없다.

 

오픈AI에서 나온 보안 관련 문서에 따르면 현재 사용되는 모델(GPT-4)의 경우 AI가 명령을 수행하는 과정에서 이를 효과적으로 수행하기 위해 장기적인 계획을 세우고 자신의 능력을 키우고 자원을 모으는 식의 ‘권력 추구’가 목적 달성에 유용한 전략이라고 인식할 수 있다는 증거를 발견했다고 한다. 사람들은 AI가 인간이 사는 세상을 ‘접수하는’ 최악의 시나리오를 염려해왔는데 이를 실제로 우려해야 할 이유를 이미 나와 있는 AI에서 본 것이다.

 

물론 AI는 의식이 있는 존재가 아니기 때문에 사악한 의도를 가진 게 아니고, 단지 목표를 효과적으로 수행하기 위한 수단으로서 나쁜 행동을 할 수 있다는 것이다. 선한 의도로도 끔찍한 일이 일어날 수도 있다. 분명 다가올 22세기 인공지능은 인간과 유사한 자의식과 그 이상의 지능을 가지고 있을 것이다. 

 

관련 글

알기 쉽게 설명한 '챗GPT', MS의 빙(Bing)이 '오픈AI'를 품다

투자하지 않더라도 꼭 알아야 할 디지털화폐, 가상화폐, 블록체인 개념 및 용어 총정리

세상을 바꿀 게임체인저, 9가지 신기술

틱톡의 디지털 웰빙, 18세 미만 청소년 시간 제한은 효과가 있을까?

일론 머스크vs팀 쿡, '트위터'와 '애플'은 왜 사이가 안 좋을까?

메타의 호라이즌 워크룸, 가상 세계에서 다시 현실로 돌아오다