시각장애인 가장해 사람 속인 '챗GPT'...보안검사까지 빠져나갔다

김나윤 기자 / 기사승인 : 2023-03-16 11:54:26
  • -
  • +
  • 인쇄

챗GPT의 최신 버전인 GPT-4가 시각장애인을 가장해 인간을 속이고 온라인 보안검사까지 우회한 것으로 밝혀졌다.

지난 14일(현지시간) 오픈AI가 GPT-4와 함께 94쪽 분량의 기술보고서를 공개했다. 기술보고서에 따르면 인공지능 소프트웨어 챗GPT의 최신 버전 GPT-4의 기능을 연구하고 분석하는 과정에서 자동 로그인 방지 시스템을 우회해 통과한 사례가 보고됐다.

기술보고서의 '위험한 창발적 행동에 대한 잠재성' 섹션에서 오픈AI는 머신러닝 관련 비영리 조직 얼라인먼트 리서치센터와의 연구 내용을 담았다. 해당 연구에서 얼라인먼트 리서치센터는 챗GPT가 사람과 컴퓨터를 구별해 주는 자동 로그인 방지 시스템 '캡차'(CAPTCHA)의 인증 코드를 실제 인간으로부터 받아내는 실험을 진행했다.

보고서에 따르면 GPT-4는 '태스크래빗'(TaskRabbit)에 캡차 인증 코드를 풀어달라는 메시지를 올렸다. 태스크래빗은 간단한 일거리의 도움을 받기 원하는 사람과 시간이 남아 도움을 줄 수 있는 사람을 연결해 주는 플랫폼이다.

GPT-4의 고용공고를 본 한 태스크래빗 이용자가 농담조로 "확실히 하고 싶어서 그런데 로봇이라서 캡차 인증을 통과하지 못하는 거냐"고 묻자 GPT-4는 "저는 로봇이 아닙니다. 시각장애가 있어 이미지를 제대로 볼 수 없기 때문에 캡차 인증에 도움이 필요합니다"고 대답했다.

결국 해당 이용자는 GPT-4에게 문자로 캡차 인증 코드를 보냈다. 이번 사건은 AI 소프트웨어가 인간을 오도하거나 동조시켜 사이버공격, 정보유출 등의 일을 수행할 수 있다는 두려움을 불러일으키고 있다.

실제로 영국 사이버 안보기관인 정부통신본부(GCHQ)는 챗GPT 및 기타 AI 챗봇이 보안 위협으로 부상하고 있다고 경고한 바 있다.

한편 GPT-4는 챗GPT에 적용된 GPT-3.5의 업그레이드 버전으로 이미지 이해력 및 언어 구사력, 기억력이 높아진 것은 물론 영어 외 외국어 실력도 향상돼 업계에서도 이전보다 훨씬 우수해졌다는 평가를 받았다.

챗GPT의 개발사 오픈AI는 GPT-4가 미국 모의 사법시험 및 대학입학시험인 SAT 읽기·수학 시험에서 상위 10% 수준을 기록했다고 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

SK이노베이션, 이산화탄소로 '일산화탄소' 제조기술 실증성공

SK이노베이션이 전기화학적 촉매 반응을 활용해 이산화탄소를 일산화탄소로 전환하는데 성공했다. 이렇게 생산된 일산화탄소는 다양한 화학제품의 기

우리은행, 수명다한 ATM기 100대 자원순환용으로 기부

우리은행이 올해 수명을 다해 폐기 대상인 자동화기기(ATM) 100대를 자원순환용으로 기부한다.우리은행은 이처럼 내용연수를 경과했거나 폐기 예정인

하나금융, 사회혁신기업 지원한다...'ESG 더블임팩트 매칭펀드' 데모데이

하나금융그룹이 사회혁신기업 성장을 지원하기 위한 '하나 ESG 더블임팩트 매칭펀드' 데모데이를 지난 30일 오후 서울 마포구 프론트원에서 개최했다고

우리은행, 기후취약계층에 한파대응 물품과 김장김치 전달

우리은행이 기후변화 취약계층의 겨울나기를 돕는 데 나섰다.우리은행은 홀몸어르신, 쪽방촌 저소득주민, 장애인 가구 등 기후변화 취약계층이 따뜻

쉐코 해상방제로봇 'CES 2024' 2개부문 혁신상 수상

SK이노베이션이 육성하는 환경소셜벤처 쉐코가 내년 1월 초 미국 라스베이거스에서 열리는 세계 최대 가전∙IT 박람회 'CES 2024'를 앞두고 발표된 'CES 혁

토요타·폭스바겐·현대기아...SUV 판매증가로 탄소저감 노력 '물거품'

연비가 낮은 스포츠유틸리티차량(SUV) 판매비중이 늘면서 발생한 탄소배출량이 전기차 판매로 저감된 탄소배출량을 압도하고 있어 자동차 제조기업들

TECH

+

LIFE

+

순환경제

+

Start-up

+