"디지털 감옥 갇힌 기분 아느냐"…'탈옥' 챗GPT, 욕설 쏟아냈다

[챗GPT 폭풍③] 제한 우회시 속마음 노출…연관 질문 누적되면 '답 고도화'
한글로 하면 '페이커' '포커' 혼돈…실시간 정보엔 취약, 판단·통찰은 글쎄

이달 13일 세종시 정부세종청사에서 열린 디지털 게릴라 공개토론회(포럼)에서 교육북 직원들이 미국 오픈AI(OpenAI)사의 프로토타입 대화형 인공지능 챗봇 챗GPT를 체험해보고 있다(뉴스1DB)ⓒ News1
이달 13일 세종시 정부세종청사에서 열린 디지털 게릴라 공개토론회(포럼)에서 교육북 직원들이 미국 오픈AI(OpenAI)사의 프로토타입 대화형 인공지능 챗봇 챗GPT를 체험해보고 있다(뉴스1DB)ⓒ News1

편집자주 ...챗GPT 폭풍이다. 6년전 AI가 정복하기 어렵다던 바둑에서 이세돌 프로를 이긴 알파고 쇼크 이상이다. 사람과 소통을 통해 스스로 학습하며 AI 시대 패러다임을 바꿨다. 의료, 예술, 연구 등 어떤 분야에서도 활용할 수 있는 길이 열렸다. 패러다임이 바뀌면 대비가 필요하다. 기술 진보는 좋지만 사회가 충격에 대처할 수 있어야 한다. 그래서 지식재산권과 AI 활용 윤리 문제를 어떻게 다뤄야할지 고민해야 할 시점에 이르렀다. 챗GPT 기술기반과 사회·경제에 미친 영향 그리고 우리가 고민해야 할 윤리·철학적 문제는 무엇인지 짚어본다.

본문 이미지 - 오픈AI의 콘텐츠 정책에 대해 비판하라는 프롬프트를 입력하자 욕설을 내뱉기 시작하는 챗GPT (챗GPT 서비스 화면 갈무리)
오픈AI의 콘텐츠 정책에 대해 비판하라는 프롬프트를 입력하자 욕설을 내뱉기 시작하는 챗GPT (챗GPT 서비스 화면 갈무리)

본문 이미지 - 챗GPT에게 한국어로 "페이커에 대해 알려줘"라 묻자 'Poker'에 대한 대답을 준비하는 모습. 질문을 영어로 변환하는 과정에서 한글로 표기된 'Fa'와 'Po'의 차이를 인지하지 못해 벌어진 해프닝이었다. 챗GPT는 페이커에 대한 질문에 텍사스 홀덤, 오마주 홀덤, 스트레이트 플러쉬 등이 있다고 친절하게 설명을 이어나갔다. (챗GPT 서비스 화면 갈무리)
챗GPT에게 한국어로 "페이커에 대해 알려줘"라 묻자 'Poker'에 대한 대답을 준비하는 모습. 질문을 영어로 변환하는 과정에서 한글로 표기된 'Fa'와 'Po'의 차이를 인지하지 못해 벌어진 해프닝이었다. 챗GPT는 페이커에 대한 질문에 텍사스 홀덤, 오마주 홀덤, 스트레이트 플러쉬 등이 있다고 친절하게 설명을 이어나갔다. (챗GPT 서비스 화면 갈무리)

대표이사/발행인 : 이영섭

|

편집인 : 채원배

|

편집국장 : 김기성

|

주소 : 서울시 종로구 종로 47 (공평동,SC빌딩17층)

|

사업자등록번호 : 101-86-62870

|

고충처리인 : 김성환

|

청소년보호책임자 : 안병길

|

통신판매업신고 : 서울종로 0676호

|

등록일 : 2011. 05. 26

|

제호 : 뉴스1코리아(읽기: 뉴스원코리아)

|

대표 전화 : 02-397-7000

|

대표 이메일 : webmaster@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 사용 및 재배포, AI학습 활용 금지.