시각장애인 가장해 사람 속인 '챗GPT'...보안검사까지 빠져나갔다

김나윤 기자 / 기사승인 : 2023-03-16 11:54:26
  • -
  • +
  • 인쇄

챗GPT의 최신 버전인 GPT-4가 시각장애인을 가장해 인간을 속이고 온라인 보안검사까지 우회한 것으로 밝혀졌다.

지난 14일(현지시간) 오픈AI가 GPT-4와 함께 94쪽 분량의 기술보고서를 공개했다. 기술보고서에 따르면 인공지능 소프트웨어 챗GPT의 최신 버전 GPT-4의 기능을 연구하고 분석하는 과정에서 자동 로그인 방지 시스템을 우회해 통과한 사례가 보고됐다.

기술보고서의 '위험한 창발적 행동에 대한 잠재성' 섹션에서 오픈AI는 머신러닝 관련 비영리 조직 얼라인먼트 리서치센터와의 연구 내용을 담았다. 해당 연구에서 얼라인먼트 리서치센터는 챗GPT가 사람과 컴퓨터를 구별해 주는 자동 로그인 방지 시스템 '캡차'(CAPTCHA)의 인증 코드를 실제 인간으로부터 받아내는 실험을 진행했다.

보고서에 따르면 GPT-4는 '태스크래빗'(TaskRabbit)에 캡차 인증 코드를 풀어달라는 메시지를 올렸다. 태스크래빗은 간단한 일거리의 도움을 받기 원하는 사람과 시간이 남아 도움을 줄 수 있는 사람을 연결해 주는 플랫폼이다.

GPT-4의 고용공고를 본 한 태스크래빗 이용자가 농담조로 "확실히 하고 싶어서 그런데 로봇이라서 캡차 인증을 통과하지 못하는 거냐"고 묻자 GPT-4는 "저는 로봇이 아닙니다. 시각장애가 있어 이미지를 제대로 볼 수 없기 때문에 캡차 인증에 도움이 필요합니다"고 대답했다.

결국 해당 이용자는 GPT-4에게 문자로 캡차 인증 코드를 보냈다. 이번 사건은 AI 소프트웨어가 인간을 오도하거나 동조시켜 사이버공격, 정보유출 등의 일을 수행할 수 있다는 두려움을 불러일으키고 있다.

실제로 영국 사이버 안보기관인 정부통신본부(GCHQ)는 챗GPT 및 기타 AI 챗봇이 보안 위협으로 부상하고 있다고 경고한 바 있다.

한편 GPT-4는 챗GPT에 적용된 GPT-3.5의 업그레이드 버전으로 이미지 이해력 및 언어 구사력, 기억력이 높아진 것은 물론 영어 외 외국어 실력도 향상돼 업계에서도 이전보다 훨씬 우수해졌다는 평가를 받았다.

챗GPT의 개발사 오픈AI는 GPT-4가 미국 모의 사법시험 및 대학입학시험인 SAT 읽기·수학 시험에서 상위 10% 수준을 기록했다고 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

ESG

Video

+

ESG

+

SK이노베이션, 2030년까지 베트남 맹그로브숲 복원 나선다

SK이노베이션이 베트남에서 '아시아의 허파'로 불리는 맹그로브숲 복원사업에 나선다.SK이노베이션은 7일 베트남 짜빈(Tra Vinh)성 정부 및 현지 사회적기

KCC글라스 '2024-25 ESG보고서' 발간...KPI와 연계

KCC글라스가 지속가능경영 성과와 성장전략을 담은 '2024/25 ESG보고서'를 발간했다고 7일 밝혔다.올해 다섯번째로 발간된 이번 보고서는 △ESG 전략목표와

[최남수의 ESG풍향계] 글로벌 기업들 '지속가능 공시' 적극적인 이유

이재명 정부는 ESG 정책에 대해 전향적인 변화를 줄 것으로 예상된다. 그 가운데 정책의 우선순위를 둘 것으로 보이는 정책은 지속가능성 공시다. 윤석

SK케미칼 '2024 지속가능 경영보고서' 발간..."5대 과제 평가 담아"

SK케미칼이 1년간의 ESG성과와 향후 전략을 담은 '2024 지속가능경영보고서'를 발간했다고 7일 밝혔다. 이번 보고서는 글로벌 공시 기준으로 통용되는 △

정부 '위약금 면제' 수용한 SKT..."정보보호에 7000억 투자" 결정

SK텔레콤이 해킹 사고로 번호이동한 가입자에 대해 위약금을 면제해야 한다는 정부의 요청을 수용하기로 결정했다.SKT는 침해사고 발생전인 4월 18일 기

우리은행 'G.우.주 프로젝트' 시행...경기도 보호아동 위해 6억 지원

우리은행이 'G.우.주 프로젝트'를 통해 보호아동을 위해 4년간 매년 1억5000만원을 지원한다.우리은행은 경기주택도시공사(GH), 한국아동청소년그룹홈협

기후/환경

+

기후변화에 대응해 탄산칼슘 저장하는 무화과 나무...왜?

무화과 나무가 자신의 일부를 돌처럼 만들어 기후변화에 대응하는 것으로 나타났다.6일(현지시간) 스위스 취리히대학(UZH) 마이크 로울리 박사 연구팀

녹색전환硏, 노원구와 시민맞춤 ‘탄소중립 안내서’ 발간

서울 노원구에서 전국 최초로 시민 눈높이 '탄소중립 안내서'를 발간했다. 녹색전환연구소와 녹색에너지전략연구소와 서울 노원구와 함께 '탄소중립

벌채지역 제품 판매금지...유럽 '산림벌채법' 앞두고 회원국들 반발 확산

오는 12월 세계 최초로 '산림벌채법'(EUDR) 시행을 앞두고 있는 유럽연합(EU)에서 주요 회원국들이 규정 완화를 요구하고 나섰다. 이 법은 벌채된 땅에서

온난화로 빙하 녹으면서…전세계 화산 폭발 더 격렬해진다

지구 온난화로 빙하가 녹으면서 그 영향으로 전세계 화산 폭발이 더 빈번하고 규모도 커질 것이라는 연구결과가 나왔다.미국 매디슨 위스콘신대 연구

전세계 덮친 가뭄 '지구적 재앙'…강원 동해안도 생활·농업용수 위기

전세계가 폭염뿐 아니라 가뭄의 습격도 받고 있다. 지구 곳곳에서는 최악의 가뭄이 이어지면서 물부족 사태를 겪고 있고, 우리나라 강원도 동해안의

폭염에 카디건·셔츠 매출 '쑥'...이상기후에 뜨는 '시즌리스 상품'

이상기후가 일상화되면서 백화점 소비패턴에도 변화가 일어나고 있다. 장마철 대표 아이템으로 꼽히던 레인부츠와 방수재킷 대신 실내 냉방 환경에서

에너지

+

순환경제

+

오피니언

+