불러오는 중입니다
더 똑똑한 모델이 곧 더 나은 일터를 뜻하지는 않는다. 오늘은 AI의 능력을 실제 업무와 공적 책임으로 옮기는 데 필요한 신뢰의 설계를 살핀다.
에이전트가 실제 조직의 동료가 되려면 자율성을 한 번에 주는 대신, 업무의 예외를 배우고 결과를 검증하며 책임 범위를 단계적으로 넓혀야 한다.
항공편을 예약하고 고객 문의를 처리하며 커밋 가능한 코드를 만드는 에이전트 데모는 이미 충분히 인상적이다. 그러나 200명 규모의 부동산 관리 회사에서는 같은 기술이 들어왔다고 업무가 저절로 바뀌지 않았다. 고객, 돈, 자산이 걸린 현장에는 빠진 영수증, 오래된 업무 프로그램, 숙련자의 머릿속 판단처럼 공개 인터넷에 없는 예외가 쌓여 있기 때문이다. 전기가 공장에 연결된 뒤에도 설비를 바꾸고 사람을 다시 교육해야 했듯, AI의 확산도 모델 접속만으로 끝나지 않는다. Long Lake의 사례가 강조하는 핵심은 소프트웨어를 밖에서 건네는 것보다 실제 서비스 기업 안에서 기술·재무·운영이 같은 결과를 책임하며 도입 과정을 다시 설계하는 일이다.
현실적인 출발점은 ‘AI 동료’를 선언하는 것이 아니라 코파일럿, 실시간 협업 에이전트, 비동기 에이전트, 장기 실행 에이전트로 책임을 조금씩 올리는 것이다. 더 많은 일을 맡길 권리는 정확도와 현장 신뢰를 통해 얻어야 한다. 이때 중요한 데이터는 정답 예시만이 아니다. 사람이 어디에서 개입했는지, 에이전트가 어떤 도구를 썼는지, 어떤 예외에서 멈췄는지까지 남긴 작업 흔적이 다음 개선의 재료가 된다. 사용해야 데이터가 생기고, 가치가 있어야 다시 사용한다는 순환을 만들려면 처음부터 모든 업무를 자동화하기보다 모델이 잘하는 경계부터 고르고, 실패를 관찰 가능한 사건으로 바꿔야 한다.
Anthropic Labs의 실험은 위임의 단위가 세부 작업에서 원하는 최종 상태로 이동할 수 있음을 보여준다. 사람은 목표·제약·성공 조건을 정하고, 에이전트가 찾은 선택지와 비용을 다시 이해해야 한다. 코드가 빨리 늘어도 검토하는 사람의 이해력은 같은 속도로 늘지 않으므로 의도와 트레이드오프를 설명하는 장치, 관측 가능성, 기능 플래그, 점진적 공개가 필요하다. 조직도 실패를 예외 취급하지 않아야 한다. Labs가 2주마다 실험을 계속할지 방향을 바꿀지 심사하는 방식은 빠른 시도를 무한한 확장과 구분한다. 결국 좋은 AI 도입은 사람을 과정에서 지우는 일이 아니라, 사람이 어디에 판단과 책임을 써야 하는지를 더 선명하게 만드는 일이다.
빌 게이츠의 경고는 AI를 멈출지 말지보다, 업계의 약속만으로 감당할 수 없는 위험에 어떤 공적 조건을 붙일지를 묻는다.
AI의 혜택을 넓히면서도 일자리·보안·생물학적 위험을 통제하려면 어디까지 공적 규칙이 필요할까?
AI가 교육과 생산성, 보건에 줄 수 있는 이익을 이유로 연구와 활용을 통째로 막을 수는 없다. 다만 위험한 능력을 다루는 조직은 모니터링과 안전 조치에 응해야 하며, 그 조건을 거부한다면 계속 개발할 자격을 제한하는 라이선스 논의가 필요하다는 주장이다. 데이터센터 건설 반대만으로는 모델의 생물테러·사이버 공격 가능성을 직접 다루지 못한다. 게이츠는 한 분야가 아니라 폭넓은 인지 능력에서 인간을 넘어서는 시스템이 저렴한 로봇과 결합할 가능성을 과거 기술과 다른 위험으로 본다. 미국과 중국의 경쟁 역시 안전 논의를 포기할 이유가 아니라, 생물학적 위험처럼 양쪽이 함께 피해야 할 문제에서 협력할 이유라고 말한다. 핵심은 ‘규제냐 혁신이냐’의 양자택일이 아니라, 위험을 측정하고 공개하는 것을 혁신의 진입 조건으로 만드는 데 있다.
일은 소득뿐 아니라 사회적 연결과 의미를 제공한다. 따라서 자동화의 충격을 세금이나 기본소득만으로 환산하면 충분하지 않다. 사람에게 남겨 둘 직무를 사회가 선택하는 방안, 정당과 시민사회가 전환 속도와 분배를 공개적으로 논의하는 절차까지 필요하다는 관점이다. 기술 기업의 자율 규제만으로는 이 선택의 정당성을 만들기 어렵다. 특히 능력 향상의 속도와 사회 제도의 변경 속도가 다르면, 혜택이 널리 퍼지기 전에 직무와 소득의 충격이 먼저 나타날 수 있다. 그래서 인간 전용 직업이라는 제안은 단순한 고용 보호가 아니라 돌봄, 관계, 책임을 어떤 영역에서 인간의 몫으로 남길지 묻는 사회적 선택이다. 교육과 재훈련, 분배 정책도 모델이 충분히 강해진 뒤가 아니라 전환이 시작되는 동안 함께 준비해야 한다.
공통점혁신의 편익과 위험이 함께 커지는 만큼, 업계 밖의 사회가 지금 논의에 참여해야 한다는 데 두 관점이 만난다.
시장과 도구 선택에서 공통으로 드러난 신호는 절대적인 승자보다 사용 맥락과 인터페이스가 중요해졌다는 점이다.
Cursor의 성장은 자체 모델 우위보다 개발자의 의도를 작은 명세로 바꾸는 인터페이스와 제품 집중에서 시작됐다. 경쟁 모델이 강해질 때도 IDE에서 에이전트·모델 플랫폼으로 자신을 바꾸며 기술 변화가 사업 모델보다 먼저 온다는 태도를 유지했다. 셀프서비스 제품에서 기업 판매로 확장하면서도 가장 경쟁적인 코딩 시장을 피하지 않았고, 기존 제품을 스스로 잠식하는 선택을 반복했다. 이 사례가 주는 신호는 모델 성능 변화에 흔들리지 않는다는 뜻이 아니라, 변화가 오면 제품의 정체성까지 다시 설계할 준비가 경쟁력이라는 점이다.
ChatGPT·Claude·Grok·Gemini 비교는 디자인, 글쓰기, 조사, 코딩 등 과업에 따라 강점이 달라진다고 본다. 모델 이름만 비교하기보다 질문을 다듬는 과정, 연결된 도구, 작업을 끝까지 이어 주는 하네스까지 함께 봐야 실제 선택이 가능하다. 하나의 종합 순위로 구매 결정을 끝내면 사용자가 실제로 반복하는 작업의 차이를 놓친다. 먼저 자주 하는 과업을 나누고, 각 도구가 결과를 만드는 과정에서 요구하는 확인과 수정 비용까지 비교하는 편이 낫다.
북마크를 고르는 중…