시각장애인 가장해 사람 속인 '챗GPT'...보안검사까지 빠져나갔다

김나윤 기자 / 기사승인 : 2023-03-16 11:54:26
  • -
  • +
  • 인쇄

챗GPT의 최신 버전인 GPT-4가 시각장애인을 가장해 인간을 속이고 온라인 보안검사까지 우회한 것으로 밝혀졌다.

지난 14일(현지시간) 오픈AI가 GPT-4와 함께 94쪽 분량의 기술보고서를 공개했다. 기술보고서에 따르면 인공지능 소프트웨어 챗GPT의 최신 버전 GPT-4의 기능을 연구하고 분석하는 과정에서 자동 로그인 방지 시스템을 우회해 통과한 사례가 보고됐다.

기술보고서의 '위험한 창발적 행동에 대한 잠재성' 섹션에서 오픈AI는 머신러닝 관련 비영리 조직 얼라인먼트 리서치센터와의 연구 내용을 담았다. 해당 연구에서 얼라인먼트 리서치센터는 챗GPT가 사람과 컴퓨터를 구별해 주는 자동 로그인 방지 시스템 '캡차'(CAPTCHA)의 인증 코드를 실제 인간으로부터 받아내는 실험을 진행했다.

보고서에 따르면 GPT-4는 '태스크래빗'(TaskRabbit)에 캡차 인증 코드를 풀어달라는 메시지를 올렸다. 태스크래빗은 간단한 일거리의 도움을 받기 원하는 사람과 시간이 남아 도움을 줄 수 있는 사람을 연결해 주는 플랫폼이다.

GPT-4의 고용공고를 본 한 태스크래빗 이용자가 농담조로 "확실히 하고 싶어서 그런데 로봇이라서 캡차 인증을 통과하지 못하는 거냐"고 묻자 GPT-4는 "저는 로봇이 아닙니다. 시각장애가 있어 이미지를 제대로 볼 수 없기 때문에 캡차 인증에 도움이 필요합니다"고 대답했다.

결국 해당 이용자는 GPT-4에게 문자로 캡차 인증 코드를 보냈다. 이번 사건은 AI 소프트웨어가 인간을 오도하거나 동조시켜 사이버공격, 정보유출 등의 일을 수행할 수 있다는 두려움을 불러일으키고 있다.

실제로 영국 사이버 안보기관인 정부통신본부(GCHQ)는 챗GPT 및 기타 AI 챗봇이 보안 위협으로 부상하고 있다고 경고한 바 있다.

한편 GPT-4는 챗GPT에 적용된 GPT-3.5의 업그레이드 버전으로 이미지 이해력 및 언어 구사력, 기억력이 높아진 것은 물론 영어 외 외국어 실력도 향상돼 업계에서도 이전보다 훨씬 우수해졌다는 평가를 받았다.

챗GPT의 개발사 오픈AI는 GPT-4가 미국 모의 사법시험 및 대학입학시험인 SAT 읽기·수학 시험에서 상위 10% 수준을 기록했다고 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

현대백화점 "장난감 기부하면 H포인트 증정"

현대백화점이 오는 9월 6일 자원순환의 날을 맞아 7일까지 압구정본점 등 전국 점포에서 '플라스틱 장난감 업사이클' 캠페인을 진행한다고 4일 밝혔다.

'2025 그린에너텍' 17일 개막...환경·에너지 기술 한자리에

환경산업 전문 B2B 전시회 '2025 그린에너텍(GreenEnerTEC)'이 오는 17일부터 19일까지 3일간 인천 송도컨벤시아에서 열린다.올해 4회째를 맞이하는 그린에너

"화력발전 최소발전용량이 재생에너지 가로막아"...공익감사 청구

화력발전을 과도하게 우대한다고 비판받는 최소발전용량과 관련해, 감사원에 공익감사청구가 제기됐다.기후솔루션과 당진환경운동연합은 3일 서울

가축분뇨를 농촌 에너지로 활용...기아, 홍성에 시설 지원

기아가 홍성에서도 온실가스 감축과 지역사회 재생에너지 보급을 위해 가축분뇨의 자원화 및 에너지화에 나선다.기아는 지난 2일 충남 홍성군청에서

삼성전자도 구글처럼 '워터 포지티브' 사업...환경부와 '신풍습지' 개선

기업이 사용하는 물보다 더 많은 물을 자연에 돌려보내는 '워터 포지티브' 사업이 국내에서 첫 착공식을 가졌다.환경부와 한국수자원공사는 2일 오후

마실 물도 부족한 강릉 시민들...지자체와 기업들 생수기부 '쇄도'

4개월 넘게 비가 내리지 않고 극심한 가뭄을 겪고 있는 강릉 시민들에게 전국 각처에서 생부 기부가 끊이지 않고 있다. 강릉시는 기부받은 생수를 취약

기후/환경

+

가뭄에 저수율 13.5% 불과한데...강릉만 비켜가는 '야속한 비'

야속하게도 비가 절실한 강릉 지역을 제외한 전국에서 비가 내리고 있다. 강원 내륙에는 최대 20㎜에 달하는 비가 쏟아졌지만 극심한 가뭄을 겪고 있는

해초 덩어리 '넵튠 볼'...미세플라스틱 필터가 된다고?

바다에 미세플라스틱이 만연해지면서, 해초와 미세플라스틱이 공처럼 뭉쳐진 이른바 '넵튠 볼'이 지중해 해변에 떠밀려오고 있다.스페인 바르셀로나

중앙아시아 빙하도 남극의 빙산도 '빠르게 줄고 있다'

기후변화로 지구 평균기온이 계속 상승하면서 견고하기로 소문난 중앙아시아의 빙하가 녹기 시작했고, 세계 최대 빙산의 하나로 꼽히는 남극의 '메가

"화력발전 최소발전용량이 재생에너지 가로막아"...공익감사 청구

화력발전을 과도하게 우대한다고 비판받는 최소발전용량과 관련해, 감사원에 공익감사청구가 제기됐다.기후솔루션과 당진환경운동연합은 3일 서울

아프간 동부 연속 지진에 '폐허'...사망자 하루새 2배 늘어

2년만에 아프가니스탄에서 또 지진이 발생해 수천명이 목숨을 잃고 있다.이번 지진은 지난달 31일(현지시간) 오후 11시47분쯤 아프간 동부 낭가르하르주

태풍 '페이파' 日 향해 북상...강릉에 '가뭄에 단비' 될까?

일본 오키나와 남쪽 해상에서 생성된 열대저압부가 곧 제15호 태풍으로 발달해 북동진한다는 이동경로가 발표되면서 극심한 가뭄을 겪고 있는 강릉을

에너지

+

순환경제

+

오피니언

+