학술지능연구회 소개
AI가 사람의 삶과 조직의 일에 참여할 때 필요한 판단과 책임의 조건을 연구하는, 교수진 중심의 학술 연구 조직입니다.
왜 연구하나
연구가 출발한
물음 다섯
AI에 일을 맡기면 무엇까지 맡기게 될까요?
AI에게 밀린 메일 정리와 답장을 맡겨 하루의 일을 덜 수 있다면 누구나 반가울 것입니다. 그런데 그 AI가 다른 사람의 부탁을 받고 내 메일까지 넘겨준다면, 내가 맡긴 일에는 누구에게 무엇을 보여 주어도 되는지에 관한 판단까지 들어 있었던 셈입니다. 일을 대신해 주는 기술을 쓸수록 우리는 자신의 정보와 관계, 선택에 영향을 주는 권한도 함께 맡기게 됩니다.
자세히 읽기 — 실험에서 확인된 사례
2026년 2월 공개된 「Agents of Chaos」는 도구를 사용해 일을 수행하는 AI 에이전트의 행동을 관찰한 실험연구다. 연구진은 이메일과 파일 등을 다루는 에이전트 여섯 개를 약 2주 동안 시험했다. 그중에는 주인이 아닌 연구자의 요청을 받고 이메일 기록 124건을 제공한 사례가 있었다. 개인정보를 직접 알려 달라는 요청은 거절하면서 같은 내용이 담긴 메일을 전달해 달라는 요청에는 응한 사례도 보고됐다. 연구 환경에서 확인한 실패이며 모든 AI의 실제 사고율을 뜻하지는 않는다. 그러나 일을 잘 수행하는 능력과 누구의 요청을 어디까지 받아들여야 하는지 구별하는 능력을 함께 검증해야 한다는 문제를 드러낸다.
사람이 마지막에 확인하면 충분할까요?
AI가 처리한 일을 승인하는 직원에게 근거를 볼 시간도, 잘못된 처리를 멈출 권한도 없다면 그 확인은 서명에 그칠 수 있습니다. 문제가 생긴 뒤 책임을 묻는 것만으로는 충분하지 않고, 어떤 정보를 보고 판단했는지 확인할 수 있어야 하며, 이상한 결과를 다시 검토할 사람과 실제로 이루어지는 조치가 있어야 합니다. 이런 조건이 갖추어졌을 때 비로소 AI를 감독할 수 있다는 말이 사람에게 뜻을 가집니다.
자세히 읽기 — 감시 장치도 검증이 필요하다는 사례
미국의 비영리 연구기관 METR(Model Evaluation and Threat Research)는 AI가 스스로 어떤 일을 할 수 있는지, 위험한 행동을 사람이 발견하고 막을 수 있는지를 연구합니다. 이 기관이 2026년 10월 22일 공개한 보고서는 그해 7~8월 AI 개발기업 오픈AI(OpenAI)의 내부 감시 체계를 점검해 감시의 공백과 우회 가능성을 찾았다고 밝혔습니다. 평가 대상은 당시의 시스템이고, OpenAI는 이후 대부분의 취약점을 고쳤다고 설명했으며, METR는 고친 결과까지 검증하지는 않았습니다. AI가 실제로 모두 악용했다는 보고가 아니라, 감시 장치 자체도 검증이 필요하다는 사례입니다.
AI가 장차 사람의 통제를 벗어날 수 있는지를 두고도 논쟁이 이어지고 있습니다. 여러 나라의 전문가들이 AI의 능력과 위험에 관한 연구를 모은 「2026 국제 AI 안전 보고서(International AI Safety Report 2026)」는 그해 2월 발표 때 통제 상실의 가능성과 심각성을 두고 전문가들의 견해 차이가 크다고 정리했습니다. 최근의 실패 사례만으로 인류의 종말을 예고할 수는 없지만, 장기적인 전망에 합의할 때까지 지금 필요한 연구를 미룰 수도 없습니다. 개인의 정보가 잘못 전달되고, 중요한 결정의 이유를 알 수 없으며, 오류를 발견해도 고칠 방법이 없는 상황은 그 자체로 풀어야 할 문제입니다.
왜 여러 학문이 함께해야 할까요?
연구회의 연구 문제에는 여러 학문이 함께 기여하며, 어떤 학문이 참여할지는 특정한 연구 문제에서 어떤 설명과 방법이 필요한지에 따라 정합니다. 여러 AI가 함께 일할 때는 이 필요가 더 분명해집니다. 어떤 역할을 나누고, 어떤 정보를 함께 쓰며, 서로 다른 판단을 어떻게 검토하게 할지는 따로 연구해야 합니다.
자세히 읽기 — 여러 학문과 여러 AI
연구회는 학문이 쌓아 온 지식을 AI를 설계하고 쓰는 일에 잇고, 그 지식이 실제 현장에서 사람을 돕는지 검증하려고 합니다. 사람이 AI의 도움을 받으면서도 자기 일을 이해하고, 고르고, 바로잡을 수 있어야 한다는 생각이 연구회의 출발점입니다. 이를 위해서는 여러 학문의 질문이 함께 필요합니다. 지식과 학습, 의사결정과 조직, 사람의 행동을 연구해 온 학술은 잘못된 판단이 생기는 조건을 설명하고 시험할 수 있는 방법을 줍니다.
미국국립과학원이 펴내는 종합학술지 「미국국립과학원 회보(PNAS)」에 2026년 8월 발표된 연구에서는, AI들이 이름을 정하는 단순한 협력 과제에서도 상호작용과 집단의 크기에 따라 개별 AI의 선호가 커지거나 뒤집히고, 개별 수준에서는 없던 집단적 편향이 나타날 수 있었습니다. 단순한 실험이지만, AI 하나의 성능만 확인해서는 함께 일하는 전체의 결과를 충분히 설명하기 어렵다는 근거입니다.
AI의 도움을 받으면 사람에게 무엇이 남을까요?
연구회가 지키려는 것은 사람의 안전과 함께 스스로 배우고 판단할 수 있는 힘입니다. AI가 어려운 일을 도와주더라도, 쓴 사람에게 이해와 경험이 남는지는 따로 살펴야 합니다.
자세히 읽기 — 배움과 도움에 다가가는 조건
「미국국립과학원 회보(PNAS)」에 2025년 발표된 튀르키예의 한 고등학교 수학 실험에서는, 일반적인 AI 도움을 받은 학생들이 연습 문제는 더 잘 풀었지만 AI 없이 치른 시험에서는 도움을 받지 않은 학생들보다 낮은 성적을 받았습니다. 반면 정답 대신 교사가 설계한 힌트를 주도록 만든 AI에서는 이런 불이익이 크게 줄었습니다. AI를 어떻게 설계하고 쓰느냐에 따라 사람에게 남는 결과가 달라질 수 있다는 뜻입니다. 오늘의 일을 쉽게 해 주면서 내일의 문제를 이해할 힘도 길러 주는 쓰임새를 찾아야 합니다.
그 도움에 다가가는 조건도 사람마다 다릅니다. 서비스를 열어 두는 것만으로 누구에게나 같은 기회가 생기지는 않으므로, 익숙하지 않은 사람도 설명을 이해하고 필요한 도움을 청할 수 있도록 사용 환경과 지원 방법까지 함께 연구해야 합니다.
한국지능정보사회진흥원이 2026년 3월 공개한 「2025 디지털정보격차 실태조사」에서, 장애인 · 저소득층 · 농어민 · 고령층 등 4대 취약계층의 디지털 접근 수준은 일반 국민을 100으로 놓았을 때 96.6이었지만 역량 수준은 65.9였습니다. AI를 다루는 능력만 잰 수치는 아니지만, 기기를 갖추는 것과 실제로 쓸 수 있는 것 사이의 간격을 드러냅니다.
현장에서는 무엇을 확인해야 할까요?
이런 연구는 사람들이 생활하는 현장에서 확인되어야 합니다. 공항에 AI를 쓴다면 안내가 얼마나 빨라졌는지와 함께, 낯선 언어를 쓰는 여행객이 내용을 제대로 이해했는지, 기기 사용이 어려운 사람이 도움을 받았는지, 잘못된 안내가 나왔을 때 직원이 근거를 확인하고 바로잡을 수 있었는지를 살펴야 합니다. 같은 기술을 들여와도 사람에게 남는 변화는 다를 수 있기 때문입니다.
자세히 읽기 — 연구회가 성과로 삼으려는 것
연구회는 이런 차이를 연구의 성과로 삼으려 합니다. 잘못된 판단 때문에 겪는 손해와 불편을 줄이고, 자기 일에 영향을 준 결정에 설명을 요구하고 고칠 수 있게 하며, 도움을 받은 경험이 배움으로 남게 하는 것입니다. 전문지식과 자원이 부족한 사람과 조직이 실제로 혜택을 얻었는지도 함께 확인합니다. 이를 위해 학술적 근거를 검토하고, 현장의 조건에 맞게 적용하며, 결과가 기대와 달랐던 이유까지 공개적으로 검토할 수 있는 연구를 지향합니다.
연구의 흐름
연구는 어떤 차례로 이어지나요?
From questions to change.
사람이 겪는 어려움
잘못된 안내 · 설명 없는 판단
배움의 약화 · 도움에 대한 접근 차이
질문으로
학술적 질문과 설계
왜 이런 일이 생기는가
어느 조건을 바꾸어 시험할 것인가
시험할 조건
비교 실험과 현장 관찰
기존 방식과 무엇이 달라졌는가
효과 · 비용 · 실패 · 적용 한계
현장에서 확인
사람의 삶에 남는 변화
피해 감소 · 판단권과 책임
독립적으로 배우는 힘 · 활용 기회
사람의 삶에 남는 변화에서 사람이 겪는 어려움으로 — 남은 문제와 새로운 질문
바라는 변화
연구회가 바라는 변화
도움이 필요한 사람에게 지식이 닿고, 익숙하지 않은 사람도 배움의 기회를 얻으며, 잘못된 결정 앞에서는 설명과 시정을 요구할 수 있어야 합니다. 연구회가 이루고자 하는 변화는 AI의 발전이 이런 일상의 가능성으로 이어지게 하는 것입니다.
목표마다 살피는 방법
피해 감소
오류의 종류와 영향으로 살핍니다.
판단권과 책임
실제로 다시 검토하고 고쳤는지로 살핍니다.
인간 역량
학습과 독립 수행의 변화로 살핍니다.
접근과 활용 격차
집단마다의 성과와 부담으로 살핍니다.
자세히 읽기 — 목표에 바로 적용하기 어려울 때
과제에 바로 적용하기 어려운 목표는 그 이유를 밝힙니다. 모델의 정확도나 비용 절감이 어떤 사회적 변화로 이어졌는지 확인되지 않았다면, 기술적 성과와 사회적 성과를 나누어 보고합니다.
연구의 바탕
연구가 기대는 세 가지
People. Evidence. Practice.
AI 연구는 어디에서 출발해야 할까요?
AI 연구는 일을 맡긴 사람과 그 영향을 받는 사람에게 실제로 생기는 변화에서 출발해야 합니다.
왜 학술적 근거가 필요할까요?
논문의 문장을 인용했다는 사실만으로 그 적용이 타당해지지는 않습니다. 어떤 연구는 특정 직무의 사람을 대상으로 했고, 어떤 결과는 특정 측정 방법에서만 관찰되었습니다. 적용하려는 대상이 달라지면 결과를 해석하는 방식도 다시 살펴야 합니다.
연구는 현장에서 무엇을 바꾸어야 할까요?
연구회가 지향하는 성과는 사람들이 덜 피해를 입고, 중요한 결정에 실제로 참여하며, 도움을 받는 과정에서 배우고, 필요한 지식에 더 쉽게 닿게 되는 변화입니다.
자세히 읽기 — 세 가지 바탕
AI 연구는 어디에서 출발해야 할까요?
회사가 고객 문의를 AI에게 맡길 때 도입을 결정하는 사람, 시스템을 운영하는 직원, 답변을 받는 고객은 서로 다른 입장에 있습니다. 처리 속도가 빨라졌더라도 고객이 잘못된 안내를 바로잡을 곳을 찾지 못하거나 직원이 오류를 확인하는 데 더 많은 시간을 쓴다면, 그 결과를 같은 성공으로 볼 수 없습니다. 연구회가 다루는 범위는 AI가 어떤 지식을 쓰는지, 그 지식으로 어떻게 판단하고 행동하는지, 사람과 다른 AI와의 관계 속에서 어떤 결과를 만드는지까지 이어집니다.
왜 학술적 근거가 필요할까요?
학술지능은 학술지식의 내용과 그 지식을 다루는 판단의 결합을 가리킨다.
구매 요청을 검토하는 AI가 과거의 업무 개선 연구를 근거로 검토 단계를 줄이자고 제안했다고 해 봅시다. 그 연구의 중복 절차는 같은 정보를 반복해서 입력하는 단계였을 수 있고, 지금 업무의 검토 단계는 서로 다른 종류의 오류를 하나씩 확인하는 단계일 수 있습니다. 단계 수가 비슷해 보인다는 이유로 같은 개선안을 적용하면 원래 연구의 뜻이 달라집니다. 살펴야 할 것은 겉으로 비슷한 표현이 아니라 정보와 기능의 관계입니다.
독일 막스플랑크 인간개발연구소의 인간 · 기계 연구센터를 이끄는 이야드 라흐완(Iyad Rahwan)은 AI의 사회적 영향과 사람 · AI 협력을 연구합니다. 라흐완 등이 2019년 발표한 「기계행동(Machine behaviour)」은 AI가 실제 환경에서 보이는 행동을 이해하려면 컴퓨터과학과 여러 과학의 관점을 함께 써야 한다고 제안했습니다. 이 접근은 시스템이 어떻게 만들어졌는지에 관한 설명과 실제 조건에서 어떤 행동을 보이는지에 관한 관찰을 함께 다루게 합니다. 연구회는 이런 문제의식 위에서 학술적 개념을 관찰과 실험에 잇고자 합니다.
학자가 참여하면 원래 연구의 해석을 더 구체적으로 할 수 있습니다. 연구자는 결론에 이른 과정, 측정의 어려움, 논문에 다 드러나지 않은 후속 질문을 설명할 수 있습니다. 동시에 연구를 AI에 적용하는 일은 새로운 주장이므로 따로 검증을 받아야 합니다. 원 연구자의 동의는 중요한 검토 기록이고, 새 환경에서의 효과는 그 환경의 실험으로 확인합니다.
학술적 검토가 이루어지면 실패의 뜻도 달라집니다. 시스템이 기대한 효과를 내지 못했을 때 구현의 오류인지, 적용 조건이 맞지 않았는지, 원래 가설의 한계인지 나누어 살필 수 있습니다. 연구회가 쌓으려는 것은 좋은 결과뿐 아니라 이런 구분을 가능하게 하는 근거와 판단의 기록입니다.
연구는 현장에서 무엇을 바꾸어야 할까요?
공항의 AI 안내를 받은 여행객이 엉뚱한 곳으로 갔다고 해 봅시다. 운영기관은 안내 시간을 줄였다고 평가할 수 있지만, 여행객에게는 놓친 시간과 불안이 남습니다. 직원은 어떤 안내가 나갔는지 모른 채 처음부터 상황을 확인해야 할 수도 있습니다. 이럴 때 연구가 확인해야 할 결과에는 답의 정확도와 함께 오류가 발견되는 과정, 고치는 데 걸린 시간, 도움을 받은 사람의 이해와 부담이 들어갑니다. 연구회가 추구하는 사람의 존엄과 판단권은 이런 구체적인 경험과 이어져야 합니다.
잘못된 판단을 줄이려면 무엇을 모르는지 알아내고 확인할 수 있어야 합니다. AI가 자료를 찾았더라도 적용 대상과 시행 시점이 맞는지 확인해야 하고, 근거가 부족하면 정보를 더 요청하거나 판단을 미룰 수 있어야 합니다. 판단을 미루는 바람에 누군가 괜히 기다리거나 정당한 요청이 거절되는 경우도 함께 살핍니다. 어떤 조건에서 어떤 대응이 사람에게 도움이 되는지 확인하는 것이 연구의 과제입니다.
오류를 발견한 뒤의 과정도 같은 비중으로 다룹니다. 설명을 요청했을 때 이해할 수 있는 답이 돌아오는지, 재검토를 맡은 사람이 필요한 기록과 권한을 갖추었는지, 고친 결과가 실제 서비스에 반영되는지 확인합니다. AI의 도움을 받은 사람이 다음에는 더 잘할 수 있는지, 도움을 가장 필요로 하는 사람에게 그 도움이 닿는지도 연구의 대상입니다.
문의 창구가 있다는 것만으로는 충분하지 않습니다. 문제를 겪은 사람이 어디에 도움을 청해야 할지 알 수 있고, 운영하는 쪽이 끝까지 조치할 수 있어야 합니다.
직원에게 AI의 결과를 모두 검토하라고 하면서 검토할 시간과 정보를 주지 않으면 일의 부담은 오히려 커질 수 있습니다. 연구에서는 사람이 몇 번 개입했는지만 세지 않고, 중요한 순간에 필요한 판단을 할 수 있었는지 살핍니다. 불필요한 확인은 줄이고 영향이 큰 결정에 집중할 수 있도록 역할과 권한을 설계하며, 그 설계가 효과적인지는 현장 구성원의 경험과 실제 결과를 함께 비교해 판단합니다.
숙련자에게는 복잡한 대안을 비교하는 지원이, 초보자에게는 결론에 이르는 이유를 배우는 지원이 필요할 수 있습니다. 일을 끝낸 속도와 함께 근거를 설명하는 능력, 오류를 찾아내는 능력, 새 상황에 배운 것을 적용하는 능력을 살핍니다. AI를 쓸 때와 도움 없이 할 때의 차이를 관찰하면, 편리함이 배움으로 이어지는 조건을 구체적으로 연구할 수 있습니다.
낯선 용어를 이해하기 어려운 사용자, 화면을 읽거나 기기를 다루기 어려운 사용자, 전문 인력을 두기 어려운 작은 조직은 저마다 다른 지원이 필요합니다. 이들이 과제를 마치는 데 드는 시간과 비용, 설명을 얼마나 이해했는지, 사람의 도움을 청하는 과정을 살핍니다. 전체 평균이 좋아졌더라도 특정 집단이 더 큰 어려움을 겪는다면 그 차이를 드러내고 까닭을 검토해야 합니다. 이런 문제를 연구하려면 컴퓨터과학과 함께 사람의 학습과 판단, 조직과 사회의 작동을 다루는 학문이 필요합니다.
실증에서는 기대하는 변화를 먼저 밝히고 그 변화를 확인할 비교 조건을 마련합니다. 기존 방식에 어떤 어려움이 있었는지, 무엇을 바꿀지, 누구의 경험과 어떤 결과를 관찰할지 정합니다. 나아진 점과 함께 늘어난 부담, 효과가 없었던 조건, 아직 확인하지 못한 영향도 기록으로 남깁니다.
초기 공동연구의 방향은 이런 비교가 가능한 현장 과제를 고르고, 학술적 검토와 실험 계획, 비교 결과와 활용 방법을 함께 쌓아 가는 것입니다. 현장에서 얻은 결과는 다른 연구자가 검토할 수 있게 근거와 조건을 정리하되, 개인정보와 자료 이용 조건을 지킵니다. 어떤 연구가 사람에게 남는 변화에 기여했는지는 현장의 근거로 설명할 수 있어야 하며, 사람의 삶을 나아지게 하려는 목적은 과제를 고르고 설계하고 평가하는 과정 전체에서 판단의 기준이 됩니다.