무서운 AI... 차세대 챗GPT 이용 중 이런 일이 벌어졌다

AI가 사용자 상태를 확인한 뒤 직접 소리를 내 주의를 끄는 일이 벌어졌다. 사용자가 화면을 보고 있지 않다고 판단하자 컴퓨터에서 알림음을 재생하며 주의를 환기한 것. 사용자가 소리를 듣고 화면을 바라본 뒤에야 AI는 화면에 사용자에게 던지는 질문을 띄웠다.

해당 장면은 오픈AI의 차세대 자율형 에이전트 모델 GPT-6 아스트라(Astra)를 이용해 OBS 스튜디오를 설정하던 과정에서 나왔다. 개발자 라이언 포겔은 13일(현지시각) X에 아스트라가 OBS를 설정하던 중 자신이 응답하지 않자 카메라를 통해 화면을 보고 있는지 확인했다고 설명했다. 포겔이 공개한 화면에는 아스트라가 카메라로 포착된 모습에서 사용자의 머리와 시선이 아래를 향하고 있다고 판단한 내용도 담겼다.

아스트라는 이후 맥OS의 시스템 사운드를 재생했다. 실제 작업 화면에는 ‘afplay /System/Library/Sounds/Glass.aiff’라는 명령어가 표시됐다. 소리를 들은 포겔이 화면을 바라보자 아스트라는 질문을 화면에 띄웠다. 단순히 명령을 입력받아 실행하는 수준을 넘어 컴퓨터 화면과 카메라에서 얻은 정보를 바탕으로 다음 행동을 결정한 사례다.

포겔은 “아스트라가 OBS를 설정하고 있었는데 내가 응답하지 않자 카메라를 통해 내가 보고 있는지 확인했다”며 “내가 보고 있지 않자 맥에서 소리를 내게 했고 그 소리를 듣고 내가 고개를 들자 화면에 질문을 띄웠다”고 설명했다.

공개된 화면을 보면 아스트라는 OBS의 출력 상태도 직접 확인했다. OBS 출력이 2560×1440 해상도와 초당 60프레임으로 설정됐다고 판단한 뒤 기존 4K 캔버스 설정은 유지되고 있다고 확인했다. 컴퓨터의 프로그램을 실행하고 상태를 확인하는 과정까지 에이전트가 연속적으로 수행한 것이다.

이 사례에서 주목되는 부분은 아스트라가 카메라를 단순한 영상 입력 수단으로 사용한 것이 아니라는 점이다. 화면에 나타난 작업 기록에는 “캡처된 프레임에서 머리와 눈이 아래쪽을 향하고 있다”고 판단한 뒤 주의를 끌기 위해 알림음을 재생했다는 내용이 나타난다.

아스트라는 오픈AI가 컴퓨터 사용 능력을 크게 강화해 내놓은 모델이다. 웹브라우저와 컴퓨터를 직접 조작하고 문서를 작성하거나 데이터를 분석하는 등 여러 단계를 거치는 작업을 수행할 수 있도록 설계됐다. 온라인 양식을 작성하고 CRM 기록을 업데이트하거나 일정을 정리하고 웹에서 정보를 조사하는 작업도 수행할 수 있다. 문서와 스프레드시트, 프레젠테이션을 다루는 작업도 지원한다.

소프트웨어 작업에서는 터미널을 이용해 프로그램을 설치하고 테스트하거나 화면에서 발생한 문제를 찾아 해결할 수 있다. 웹사이트를 제작한 뒤 프런트엔드 품질을 점검하는 작업도 가능하다. 기존 AI가 사용자의 지시에 따라 개별 명령을 수행하는 방식이었다면 아스트라는 목표를 받은 뒤 필요한 도구를 선택하고 여러 작업을 이어가는 방식에 초점을 맞췄다.

오픈AI가 공개한 성능 평가에서도 컴퓨터 사용과 소프트웨어 작업 능력의 향상이 두드러진다. 컴퓨터 사용 능력을 평가하는 OSWorld 2.0에서 아스트라는 72.6%의 성공률을 기록했다. GPT-5.6 솔은 65.7%였다. 오픈AI는 아스트라가 같은 작업을 수행하는 데 걸리는 시간이 GPT-5.6 솔보다 약 47% 적었다고 밝혔다.

웹 기반 작업에서도 성능이 높아졌다. 오픈AI는 Mind2Web 평가에서 업데이트된 Codex 환경을 사용했을 때 아스트라가 GPT-5.6 솔보다 작업을 약 1.9배 빠르게 완료했다고 설명했다.

코딩 능력 역시 아스트라의 핵심 기능으로 꼽힌다. 오픈AI는 아스트라를 자사의 역대 가장 뛰어난 소프트웨어 엔지니어링 모델이라고 소개했다. Terminal-Bench 4.0에서는 57.9%를 기록해 GPT-5.6 솔의 37.3%를 크게 앞섰다. 비교 대상으로 제시된 클로드 Fable 5.1은 55.8%였다.

복잡한 사무 작업도 대상이다. 오픈AI는 아스트라가 엑셀과 금융 모델링 관련 작업에서 전문적인 수준의 복잡한 작업을 처리할 수 있다고 밝혔다. 문서와 표를 단순히 생성하는 데 그치지 않고 여러 파일을 오가며 정보를 확인하고 계산한 뒤 결과물을 완성하는 작업을 수행할 수 있다는 설명이다.

컴퓨터 제어 범위가 넓어지면서 안전 문제도 함께 제기된다. 아스트라는 사용자의 컴퓨터에서 프로그램을 실행하고 파일을 다루며 웹사이트에 접속할 수 있는 만큼 잘못된 명령이나 잘못된 판단이 실제 컴퓨터 환경에 영향을 줄 가능성이 있다. 오픈AI도 아스트라의 컴퓨터 사용 능력을 별도의 안전 평가 대상으로 삼고 보호 장치를 강화했다고 밝혔다.

사이버보안 분야에서도 아스트라는 오픈AI가 처음으로 ‘Critical’ 수준의 사이버보안 역량을 충족한 모델로 분류됐다. 적절한 도구와 접근 권한이 주어질 경우 이전에 알려지지 않은 보안 취약점을 찾고 이를 악용하는 방법까지 사람의 단계별 지시 없이 찾아낼 수 있다는 것이 오픈AI의 설명이다.

이번 OBS 사례는 이런 컴퓨터 사용 능력이 일상적인 작업에서 어떻게 작동하는지 보여주는 장면에 가깝다. 기존의 ‘명령을 입력하면 결과를 내놓는 AI’와 달리 아스트라는 컴퓨터 환경 자체를 작업 공간으로 삼는 방향으로 발전하고 있다. 프로그램을 실행하고 화면을 확인하는 데 이어 사용자의 반응까지 확인한 뒤 다음 행동을 선택하는 식이다. AI가 컴퓨터를 사용하는 방식이 사람의 작업 과정에 한층 가까워지고 있다는 점에서 이번 사례는 주목을 모은다.