AI의 지식과 판단
AI가 지식을 어떤 조건에서 쓰고, 확실하지 않을 때와 목표가 부딪힐 때 어떻게 판단하는지 묻습니다.
여러 AI가 같은 말을 같은 뜻으로 쓰려면 무엇이 필요할까요?
같은 문장도 어떤 상황에 적용하느냐에 따라 뜻이 달라집니다. 구매 요청서의 ‘납기’가 발송일을 뜻하는지 현장 설치가 끝나는 날을 뜻하는지 정리되지 않으면, 여러 AI가 같은 낱말을 쓰면서도 서로 다른 기준으로 판단합니다. 모든 참여자가 모든 정보를 똑같이 가져야 한다는 뜻은 아니지만, 무엇이 확정되었고 무엇이 미확인인지, 최신 근거가 어디에 있는지는 확인할 수 있어야 합니다.
모이는 것
- 요청과 목표누구의 어떤 문제인가
- 문서와 규정출처 · 버전 · 적용 범위
- 새로운 관찰변경 · 예외 · 충돌
공통 컨텍스트
- 목표와 용어
- 확인한 근거와 출처
- 지켜야 할 조건
- 미확인 사항과 현재 상태
이어지는 역할
- 자료 검토 역할필요한 근거를 확인
- 조건 검토 역할규정과 예외를 대조
- 종합 판단 역할근거를 연결해 판단
종합 판단 역할에서 공통 컨텍스트로 — 변경과 새 근거를 반영
공통 컨텍스트는 함께 참조할 목표·용어·근거·제약·현재 상태다. 자료가 갱신되면 영향을 받은 판단을 다시 검토하며, 충돌과 미확인 상태도 기록한다.
자세히 읽기 — 같은 말을 같은 뜻으로 쓰기
지식 활용의 첫 과제는 대상과 조건을 명확하게 만드는 일이다. 같은 문장을 읽어도 어떤 상황에 적용하느냐에 따라 의미가 달라진다. 구매 요청서에 적힌 납기라는 표현은 발송일을 뜻할 수도 있고, 현장 설치가 완료되는 날짜를 뜻할 수도 있다. 이 차이가 정리되지 않으면 여러 AI가 같은 단어를 사용하면서도 다른 기준으로 판단한다. 관련 문서를 찾는 성능과 그 문서가 현재의 판단을 뒷받침하는지는 구분하여 평가할 수 있다. 공통 컨텍스트는 여러 참여자가 함께 과제를 수행하기 위해 참조하는 목표, 용어, 근거, 제약과 현재 상태를 뜻한다. 모든 참여자가 모든 정보를 똑같이 보유해야 한다는 의미는 아니다. 각 역할이 다른 정보를 다루더라도 어떤 사실이 확정되었고 무엇이 미확인인지, 어디에 최신 근거가 있는지 확인할 수 있어야 한다.
구매 검토 시스템에서는 요청 대상의 규격, 적용할 규정 버전, 평가 기준, 확인되지 않은 사항을 공통 컨텍스트에 남길 수 있다. 새로운 견적서가 들어오면 관련 사실이 갱신되었음을 표시하고, 이전 자료에 의존했던 판단을 다시 검토한다. 이때 출처가 다른 두 값을 조용히 덮어쓰기보다 충돌 상태를 기록하는 방식이 필요하다. 어느 값을 사용할지 결정하는 데 추가 판단이 필요하기 때문이다.
근거가 확실하지 않을 때는 어떻게 판단할까요?
판단에는 관찰한 사실과 그 사실에서 끌어낸 추정이 함께 들어 있습니다. AI가 자연스러운 설명을 내놓는 것과 실제 판단이 그 설명대로 이루어졌다는 것은 서로 다른 주장이고, 검토 단계를 더한 날 오류가 줄었다고 해서 그 단계가 오류를 줄인 원인이라고 바로 결론 내릴 수는 없습니다. 불확실성은 여러 원인, 즉 자료가 빠졌거나 자료끼리 부딪치거나 목표 자체가 모호한 데서 생기는데, 이 상태들을 낮은 신뢰도 점수 하나로만 나타내면 필요한 행동을 가리기 어렵습니다.
AI가 내놓은 설명은 검토할 자료로 쓰되, 그것만으로 내부의 계산 과정 전체를 확인했다고 말해서는 안 됩니다. 관찰할 수 있는 범위를 밝히는 것이 다시 확인할 수 있는 연구의 출발점입니다.
불확실성의 종류에 따라 할 일
| 불확실성의 종류 | 예 | 필요한 확인 또는 대응 |
|---|---|---|
| 자료 누락 | 요청서에 규격이 없음 | 추가 자료 요청 |
| 자료 충돌 | 견적서와 규정의 값이 다름 | 출처와 시점 확인, 충돌 상태 기록 |
| 적용 조건 불일치 | 다른 조직의 규정을 적용함 | 적용 범위와 시행 시점 확인 |
| 목표의 모호함 | 우선순위가 정해지지 않음 | 의사결정권자의 판단 요청 |
| 결과 미확인 | 실행은 요청했으나 완료를 확인하지 못함 | 외부 상태 재확인 후 판단 |
하나의 신뢰도 점수로 합치지 않고 종류에 따라 대응 행동을 구분한다.
자세히 읽기 — 확실하지 않을 때의 판단
판단에는 관찰한 사실과 그 사실에서 도출한 추정이 함께 포함된다. 견적서에 제품명이 적혀 있다는 것은 관찰 가능한 사실이다. 그 제품이 요청 목적에 적합하다는 결론에는 규격과 사용 조건에 대한 추가 판단이 필요하다. AI가 자연스러운 설명을 제시하는 것과 실제 판단 과정이 그 설명에 따라 이루어졌다는 것은 서로 다른 주장이다. 검토 단계를 추가한 날 오류가 줄었다고 해서 그 단계가 오류 감소의 원인이라고 바로 결론 내릴 수는 없다.
연구회는 결론의 정확도와 함께 추가 확인, 보류, 재검토가 어떤 조건에서 유용한지 연구할 수 있다. 불확실성은 여러 원인에서 생긴다. 자료가 빠져 있을 수 있고, 자료 사이에 충돌이 있을 수 있으며, 목표 자체가 모호할 수도 있다. 이 상태들을 하나의 낮은 신뢰도 점수로만 표현하면 필요한 행동을 구분하기 어렵다. 적절한 판단에는 결정을 보류하는 능력도 포함된다. 보류가 잦으면 업무가 지연되고, 보류가 부족하면 근거가 약한 결정을 실행할 수 있다. 어느 쪽이 유리한지는 과제의 영향과 확인 비용에 따라 달라진다.
목표가 서로 부딪히면 무엇을 앞세울까요?
실제 업무에서 AI가 따라야 할 목표는 여럿인 경우가 많아, 구매 요청을 빨리 처리하면서도 규격을 맞추고, 불필요한 비용을 줄이며, 필요한 검토를 마쳐야 합니다. 평가 기준을 정할 때는 이루어야 할 성과와 반드시 지켜야 할 조건을 나누는 편이 유용합니다. 모든 항목을 점수 하나로 합치면 중요한 제약이 다른 항목의 높은 점수에 가려질 수 있습니다.
달성할 성과
처리 시간을 줄이는 것은 개선 목표가 될 수 있습니다.
반드시 지킬 조건
요청된 규격을 충족하는지는 그 여부를 따로 확인해야 할 조건일 수 있습니다.
자세히 읽기 — 목표가 부딪힐 때의 기준
목표 사이에 충돌이 생기면 무엇을 우선할지 정해야 한다. AI가 따라야 할 목표는 실제 업무에서 복수로 주어지는 경우가 많다. 구매 요청을 빠르게 처리하면서 규격을 충족하고, 불필요한 비용을 줄이며, 필요한 검토를 마쳐야 한다. 평가 기준을 정할 때는 달성해야 할 성과와 반드시 지켜야 할 조건을 구분하는 편이 유용하다. 모든 항목을 하나의 점수로 합치면 중요한 제약이 다른 항목의 높은 점수에 가려질 수 있다. 가치는 추상적인 선언에서 구체적인 판단으로 이어져야 한다.
연구회의 판단 기준은 수정 가능해야 한다. 사용 환경이 변하거나 새로운 반례가 나타나면 기준의 적절성을 다시 검토한다. 변경의 이유와 영향을 기록하면 과거 결과를 어떤 기준으로 평가했는지 추적할 수 있다.