(헬스&사이언스)Humans&가 제시하는 AI의 새로운 지평

인간의 판단과 책임 우선 원칙구글·오픈AI·xAI 에이스 뭉쳐

앤디 펭(Andy Peng)은 예일대에서 학부 과정을 마친 뒤, 매사추세츠공과대(MIT) 컴퓨터과학 및 인공지능 연구소(CSAIL)에서 박사과정을 밟았습니다. 그의 관심사는 기계를 더 빠르고 정확하게 만드는 데 있지 않았습니다. 그 대신 “기계가 인간의 판단과 선호를 어떻게 이해하고 반영할 수 있는가”라는 문제에 집중했습니다.

 

박사과정에서 펭은 사람의 평가를 학습 과정에 반영하는 인간 피드백 기반 학습, 의사결정 과정에 인간이 지속적으로 개입하는 인간 개입형(human-in-the-loop) 시스템, 그리고 인간과 AI가 협력하는 상호작용 구조를 연구했습니다. 이는 훗날 대형언어모델의 정렬(alignment)과 사후 학습(post-training) 문제로 이어지는 연구 주제였지만, 당시만 해도 주류와는 다소 거리가 있었습니다.

 

humans&는 지난 21일 “우리는 AI가 사람과 그들 사이의 관계를 중심으로 재설계될 수 있다고 믿는다. 최고의 AI는 조직과 공동체를 강화하는 더욱 심층적인 연결고리 역할을 해야 한다”는 메시지와 함께 이 이미지를 X에 올렸다. (이미지=X)

 

인간을 고민하는 AI 연구자

 

이 문제의식은 그가 대형 인공지능 모델을 개발하면서도 인간의 가치와 판단을 벗어나지 않도록 설계하는 데 초점을 둔 앤트로픽(Anthropic)에서 연구자로 일하며 더욱 분명해졌습니다. 앤트로픽의 모델은 점점 더 많은 일을 ‘대신’할 수 있게 되었지만, 그 과정에서 인간은 판단의 주체라기보다 감독자나 오류 처리 장치로 밀려나는 경우가 많았습니다. 펭은 AI가 인간을 대체하는 방향이 아니라, 인간의 능력을 확장하는 방향으로 설계돼야 한다는 확신을 갖게 되었습니다.

 

에릭 젤릭먼(Eric Zelikman)은 스탠퍼드대학교에서 컴퓨터과학을 전공하며 머신러닝과 강화학습을 연구했고, 이후 xAI에 합류해 대형언어모델과 강화학습 기반 시스템 개발에 참여했습니다. 이 과정에서 젤릭먼은 AI 성능을 끌어올리기 위한 데이터 설계와 보상 구조, 학습 안정성 문제를 다루며 최첨단 AI 개발이 실제로 어떻게 이루어지는지를 내부에서 경험했습니다. 동시에 그는 AI가 점점 더 많은 판단을 자동화하는 과정에서, 인간이 의사결정 구조의 중심에서 밀려나는 경향을 직접 목격했습니다.

 

“인간을 소외시키지 않는 AI는 없는가.” 그는 이 문제를 논문 발표나 정책 제안만으로는 해결할 수 없다고 보았습니다. 인간을 중심에 둔 AI는 이론적 주장에 머물러서는 실현될 수 없으며, 실제로 작동하는 제품과 조직 구조 속에서 구현돼야 한다고 판단했습니다. 이를 위해서는 기존 연구실이나 대형 기업 내부의 일부 프로젝트가 아니라, 처음부터 분명한 목적을 가진 새로운 회사가 필요하다고 보았습니다. 이런 문제의식에 공감한 앤디 펭은 앤트로픽을 떠나 젤릭먼과 함께 humans&를 창업했습니다.

 

경험과 이론이 결합한 창업팀

 

humans&에는 쟁쟁한 배경을 가진 인물들이 합류했습니다. 조르주 하릭(Georges Harik)은 구글 초창기 멤버로 검색 기업이 글로벌 플랫폼으로 성장하는 과정을 내부에서 경험한 실리콘밸리 베테랑입니다. 그는 기술 혁신이 성능 향상만으로는 사회에 뿌리내릴 수 없으며, 사람들이 실제로 기술을 어떻게 받아들이고 사용하는지가 중요하다는 점을 몸소 겪어왔습니다. 그는 humans&에서 인간 중심 AI라는 비전을 조직과 자본의 언어로 연결하는 역할을 맡고 있습니다.

 

유첸 허(Yuchen He)는 xAI에서 대형 언어 모델 개발에 참여한 연구자로, AI 성능 경쟁의 최전선을 직접 경험한 인물입니다. 그는 모델이 점점 더 많은 판단을 대신하도록 설계되는 과정을 보며 인간의 역할이 쉽게 축소될 수 있다는 한계를 인식했습니다. humans&에서 그는 인간 중심 AI라는 철학이 실제 시스템 설계로 이어지도록 기술적 구현을 담당합니다.

 

노아 굿맨(Noah Goodman)은 스탠퍼드대에서 인지과학과 컴퓨터과학을 넘나들며 인간의 추론과 의사소통 방식을 연구해온 학자입니다. 그의 연구는 AI를 단순한 계산 도구가 아니라 인간의 사고 구조와 상호작용하는 존재로 이해하는 이론적 토대를 제공합니다. humans&에서 굿맨은 기술 개발이 인간 이해를 앞질러 단순화되지 않도록 붙잡아주는 학문적 기준점 같은 존재입니다.

 

humans&가 제시하는 방법론은 인공지능을 인간을 대체하는 자동화 장치가 아니라, 인간의 판단과 책임을 증폭시키는 설계 대상으로 다루는 데 있습니다. 이 회사는 기술 도입의 출발점을 성능이나 효율이 아니라, AI가 인간의 역할을 어떻게 바꾸는지에 둡니다.

 

핵심 원칙은 인간 개입형(human-in-the-loop) 구조입니다. AI가 분석과 제안을 수행하더라도 최종 결정은 항상 인간이 내리도록 시스템을 설계합니다. humans&는 자동화를 통해 사람의 개입을 최소화하는 데 목표를 두기보다, 인간 판단의 수준과 정확성을 끌어올리는 것으로 기술의 역할을 분명히 한정합니다. 여기에 인간 피드백 기반 학습을 결합해, AI가 단순한 성능 지표가 아니라 사람의 평가와 판단 맥락, 우선순위를 함께 학습하도록 설계합니다.

 

인공지능 발전과 관련해 인간 소외 문제는 중요한 화두다. 인간과 기계의 공생과 협업을 주제로 공연의 한 장면.(사진=뉴시스)

 

humans&는 AI 도입 이후 인간의 역할을 어떻게 재설계할 것인가를 먼저 정의합니다. 반복적이고 소모적인 작업은 AI에 맡기되, 인간은 더 높은 수준의 해석과 책임 있는 판단에 집중하도록 역할 구조를 재편합니다. 이 과정은 제품 개발과 동시에 조직의 의사결정·책임·협업 구조를 함께 설계하는 방식으로 진행됩니다.

 

설립 3개월 만에 4억8000만 달러 유치

 

humans&는 2025년 9월에 창업했습니다. 설립 3개월 만인 2026년 1월, 이 회사는 대규모 시드 펀딩 라운드(seed funding round)를 통해 약 4억8000만달러(약 7000억원)의 자금을 유치했고, 기업가치는 약 44억8000만달러(6조5000억원)로 평가됐습니다. 시드 펀딩에는 엔비디아, 제프 베이조스, 알파벳의 벤처캐피털 부문인 GV, 실리콘밸리의 대표적 초기 투자사 SV Angel 등이 참여했습니다. 스타트업이 제품이나 상용 서비스 없이 이 같은 평가를 받은 것은 매우 이례적입니다.

 

humans&는 아직 정식 상용 제품을 출시하지 않았지만, 올해 안에 첫 제품을 선보일 계획입니다. 이 제품은 사람들 간의 의사소통과 협업을 돕는 인간 중심 AI 도구로, AI가 단순한 자동화 수단을 넘어 사람과 사람을 연결하고 인간의 판단을 강화하는 방향으로 작동하도록 설계되고 있습니다. 

 

서경주 객원기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.