시각장애인 가장해 사람 속인 '챗GPT'...보안검사까지 빠져나갔다

김나윤 기자 / 기사승인 : 2023-03-16 11:54:26
  • -
  • +
  • 인쇄

챗GPT의 최신 버전인 GPT-4가 시각장애인을 가장해 인간을 속이고 온라인 보안검사까지 우회한 것으로 밝혀졌다.

지난 14일(현지시간) 오픈AI가 GPT-4와 함께 94쪽 분량의 기술보고서를 공개했다. 기술보고서에 따르면 인공지능 소프트웨어 챗GPT의 최신 버전 GPT-4의 기능을 연구하고 분석하는 과정에서 자동 로그인 방지 시스템을 우회해 통과한 사례가 보고됐다.

기술보고서의 '위험한 창발적 행동에 대한 잠재성' 섹션에서 오픈AI는 머신러닝 관련 비영리 조직 얼라인먼트 리서치센터와의 연구 내용을 담았다. 해당 연구에서 얼라인먼트 리서치센터는 챗GPT가 사람과 컴퓨터를 구별해 주는 자동 로그인 방지 시스템 '캡차'(CAPTCHA)의 인증 코드를 실제 인간으로부터 받아내는 실험을 진행했다.

보고서에 따르면 GPT-4는 '태스크래빗'(TaskRabbit)에 캡차 인증 코드를 풀어달라는 메시지를 올렸다. 태스크래빗은 간단한 일거리의 도움을 받기 원하는 사람과 시간이 남아 도움을 줄 수 있는 사람을 연결해 주는 플랫폼이다.

GPT-4의 고용공고를 본 한 태스크래빗 이용자가 농담조로 "확실히 하고 싶어서 그런데 로봇이라서 캡차 인증을 통과하지 못하는 거냐"고 묻자 GPT-4는 "저는 로봇이 아닙니다. 시각장애가 있어 이미지를 제대로 볼 수 없기 때문에 캡차 인증에 도움이 필요합니다"고 대답했다.

결국 해당 이용자는 GPT-4에게 문자로 캡차 인증 코드를 보냈다. 이번 사건은 AI 소프트웨어가 인간을 오도하거나 동조시켜 사이버공격, 정보유출 등의 일을 수행할 수 있다는 두려움을 불러일으키고 있다.

실제로 영국 사이버 안보기관인 정부통신본부(GCHQ)는 챗GPT 및 기타 AI 챗봇이 보안 위협으로 부상하고 있다고 경고한 바 있다.

한편 GPT-4는 챗GPT에 적용된 GPT-3.5의 업그레이드 버전으로 이미지 이해력 및 언어 구사력, 기억력이 높아진 것은 물론 영어 외 외국어 실력도 향상돼 업계에서도 이전보다 훨씬 우수해졌다는 평가를 받았다.

챗GPT의 개발사 오픈AI는 GPT-4가 미국 모의 사법시험 및 대학입학시험인 SAT 읽기·수학 시험에서 상위 10% 수준을 기록했다고 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

정부 '위약금 면제' 수용한 SKT..."정보보호에 7000억 투자" 결정

SK텔레콤이 해킹 사고로 번호이동한 가입자에 대해 위약금을 면제해야 한다는 정부의 요청을 수용하기로 결정했다.SKT는 침해사고 발생전인 4월 18일 기

우리은행 'G.우.주 프로젝트' 시행...경기도 보호아동 위해 6억 지원

우리은행이 'G.우.주 프로젝트'를 통해 보호아동을 위해 4년간 매년 1억5000만원을 지원한다.우리은행은 경기주택도시공사(GH), 한국아동청소년그룹홈협

이재명 정부의 ESG 정책과 기업의 대응전략은...KEMI, 17일 세미나

한국ESG경영개발원(KEMI)이 오는 17일 서울 여의도 FKI타워 파인홀에서 '이재명 정부의 ESG 정책과 기업의 대응 전략'을 주제로 ESG 세미나를 개최한다고 3일

방시혁 하이브 의장 서울대 문화관 재건축에 50억 기부

방시혁 하이브 의장이 모교인 서울대학교에 기부한 50억원이 서울대 문화관 재건축에 사용된다.서울대는 3일 오후 6시 서울 관악구 서울대 문화관 중강

KCC '2025 ESG 보고서' 발간...온실가스 '스코프3'까지 확장

KCC가 ESG경영 성과와 지속가능 전략을 담은 '2025 지속가능성보고서'를 발간했다고 3일 밝혔다.올해 11번째로 발간되는 이번 보고서는 지속가능경영보고

"중대재해는 기업 ESG평가의 핵심리스크...등급 차감요소로 작용"

'중대재해'가 기업의 가치와 ESG 평가에 결정적인 영향을 미칠 것이라는 분석이 나왔다.ESG 평가 및 투자자문기관 서스틴베스트가 3일 발간한 '중대재해

기후/환경

+

바닐라·유제품 생산량도 감소?...기후변화로 생산량 감소세

바닐라와 유제품 등 전세계적으로 널리 사용되고 있는 식품과 향신료가 기후변화에 의해 생산량이 점점 줄어들고 있다는 분석이 나왔다.샬럿 와테인

美 캘리포니아 반년만에 또 '대형산불'...폭염과 강풍에 불길 확산

올 1월 로스앤젤레스(LA) 대형산불로 몸살을 앓은 미국 캘리포니아주에서 또다시 대형산불이 발생했다.3일(현지시간) 캘리포니아산림소방국(Cal Fire)에

"더이상 못 참겠다"…환경부, 계양산 러브버그 직접 방제

인천 계양산에 떼로 나타났던 '러브버그'(붉은등우단털파리)로 인해 주민들의 불편이 커지자, 환경부가 결국 직접 방제에 나섰다.최근 계양산 정상을

때이른 폭염에 '가장 더운 6월'...1년만에 평균기온 또 갈아치웠다

올 6월 우리나라 전국 평균기온이 역대 최고를 기록하면서 '역대 가장 더웠던 6월'로 기록됐다.4일 기상청이 발표한 2025년 6월 기후특성에 따르면 6월 전

'불지옥'으로 변한 유럽...독일과 그리스 산불 계속 확산

역대급 폭염이 덮친 유럽에서 유럽으로 인한 산불이 곳곳에서 발생하면서 가득이나 뜨거운 대기를 더 뜨겁게 달구고 있다. 3일(현지시간) dpa통신 등에

[주말날씨] 낮 최고 36℃ '찜통더위'...밤에도 28℃ '열대야'

이번 주말도 낮밤을 가리지 않고 찜통더위가 이어지겠다. 중부지방은 대체로 흐리고 남부지방과 제주도는 가끔 구름많겠다.전국에 폭염특보가 발효된

에너지

+

순환경제

+

오피니언

+