시각장애인 가장해 사람 속인 '챗GPT'...보안검사까지 빠져나갔다

김나윤 기자 / 기사승인 : 2023-03-16 11:54:26
  • -
  • +
  • 인쇄

챗GPT의 최신 버전인 GPT-4가 시각장애인을 가장해 인간을 속이고 온라인 보안검사까지 우회한 것으로 밝혀졌다.

지난 14일(현지시간) 오픈AI가 GPT-4와 함께 94쪽 분량의 기술보고서를 공개했다. 기술보고서에 따르면 인공지능 소프트웨어 챗GPT의 최신 버전 GPT-4의 기능을 연구하고 분석하는 과정에서 자동 로그인 방지 시스템을 우회해 통과한 사례가 보고됐다.

기술보고서의 '위험한 창발적 행동에 대한 잠재성' 섹션에서 오픈AI는 머신러닝 관련 비영리 조직 얼라인먼트 리서치센터와의 연구 내용을 담았다. 해당 연구에서 얼라인먼트 리서치센터는 챗GPT가 사람과 컴퓨터를 구별해 주는 자동 로그인 방지 시스템 '캡차'(CAPTCHA)의 인증 코드를 실제 인간으로부터 받아내는 실험을 진행했다.

보고서에 따르면 GPT-4는 '태스크래빗'(TaskRabbit)에 캡차 인증 코드를 풀어달라는 메시지를 올렸다. 태스크래빗은 간단한 일거리의 도움을 받기 원하는 사람과 시간이 남아 도움을 줄 수 있는 사람을 연결해 주는 플랫폼이다.

GPT-4의 고용공고를 본 한 태스크래빗 이용자가 농담조로 "확실히 하고 싶어서 그런데 로봇이라서 캡차 인증을 통과하지 못하는 거냐"고 묻자 GPT-4는 "저는 로봇이 아닙니다. 시각장애가 있어 이미지를 제대로 볼 수 없기 때문에 캡차 인증에 도움이 필요합니다"고 대답했다.

결국 해당 이용자는 GPT-4에게 문자로 캡차 인증 코드를 보냈다. 이번 사건은 AI 소프트웨어가 인간을 오도하거나 동조시켜 사이버공격, 정보유출 등의 일을 수행할 수 있다는 두려움을 불러일으키고 있다.

실제로 영국 사이버 안보기관인 정부통신본부(GCHQ)는 챗GPT 및 기타 AI 챗봇이 보안 위협으로 부상하고 있다고 경고한 바 있다.

한편 GPT-4는 챗GPT에 적용된 GPT-3.5의 업그레이드 버전으로 이미지 이해력 및 언어 구사력, 기억력이 높아진 것은 물론 영어 외 외국어 실력도 향상돼 업계에서도 이전보다 훨씬 우수해졌다는 평가를 받았다.

챗GPT의 개발사 오픈AI는 GPT-4가 미국 모의 사법시험 및 대학입학시험인 SAT 읽기·수학 시험에서 상위 10% 수준을 기록했다고 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

삼성전자, 5년간 6만명 신규채용...'반도체·바이오·AI' 중심

삼성전자가 성장사업 육성과 청년 일자리 창출을 위해 앞으로 5년간 6만명을 신규 채용하겠다고 18일 밝혔다. 매년 1만2000명씩 채용하겠다는 계획이다.

"상장기업 보고, 6개월로 바꾸자"...트럼프 주장에 美 또 '술렁'

미국 상장기업의 보고서가 분기에서 반기로 변경될 가능성이 커지고 있다.17일(현지시간) AP통신에 따르면, 도널드 트럼프 미국 대통령이 상장기업의

카카오, 지역 AI생태계 조성 위해 5년간 '500억원' 푼다

카카오그룹이 앞으로 5년간 500억원의 기금을 조성해 지역 인공지능(AI) 생태계 육성에 투자한다고 18일 밝혔다. 카카오그룹은 지역 AI 육성을 위한 거점

[ESG;NOW] 올해 RE100 100% 목표 LG엔솔 '절반의 성공'

국내 많은 기업들이 지속가능한 경영을 내세우면서 'ESG(환경·사회·지배구조)' 보고서 혹은 지속가능경영 보고서를 주기적으로 발간하고 있

HLB, HLB사이언스 흡수합병..."글로벌 신약개발 역량 고도화"

글로벌 항암제 개발기업 'HLB'와 펩타이드 기반 신약개발 기업인 'HLB사이언스'가 합병한다.HLB와 HLB사이언스는 17일 각각 이사회를 열고 두 회사의 합병

[르포] 플라스틱을 바이오가스로?...'2025 그린에너텍' 가보니

17일 인천 송도컨벤시아에서 개막한 '2025 그린에너텍(GreenEnerTEC)'의 주요 테마는 '바이오플라스틱'이라고 할 수 있었다.올해 4회를 맞이하는 그린에너텍

기후/환경

+

'2035 NDC' 60% 넘어설까...환경부, 7차례 토론회 연다

2035년 국가 온실가스 감축 목표(2035 NDC)를 설정하기 위한 대국민 논의가 시작된다.환경부는 오는 19일부터 내달 14일까지 '2035 국가 온실가스 감축목표

뜨거워지는 한반도...2100년 폭염일수 9배 늘어난다

한반도 기온이 매년 상승하고 있어 2100년에 이르면 여름철 극한강우 영향지역이 37%로 확대되고 강수량도 12.6% 증가한다는 전망이다. 또 폭염일수도 지

국민 61.7% "2035년 온실가스 감축목표 60% 넘어야"

우리나라 국민의 61.7%는 2035년까지 온실가스를 60% 이상 감축해야 한다는데 동의하는 것으로 나왔다.기후솔루션이 지난달 한국리서치에 의뢰해 성인 200

美 트럼프 법무부 '기후 슈퍼펀드법'까지 폐지한다

미국 도널드 트럼프 행정부의 법무부가 석유화학 대기업에 기후피해를 배상하게 하는 '기후 슈퍼펀드법'까지 폐지하려는 것으로 드러났다.17일(현지시

강릉 가뭄 '한숨 돌렸다'...'단비' 덕분에 저수율 23.4%까지 회복

한때 11%까지 내려갔던 강릉의 저수율이 지난 수요일 내린 폭우 덕분에 18일 오전 6시 기준 23.4%까지 회복됐다. 아직도 평년 저수율 71.8%에 크게 못미치는

폭염 '조용한 살인자'...유럽과 호주, 온열질환 사망자 급증

북반구와 남반구 할 것 없이 기후변화로 뜨거워진 폭염에 사람들이 죽어나가고 있다. 올여름 유럽에서 온열질환으로 사망한 사람 3분의 2는 지구온난

에너지

+

순환경제

+

오피니언

+