Terence Tao의 AI 수학 경고: 더 빠른 증명이 이해를 뒤처지게 할 수 있다
Terence Tao는 AI가 수학을 가속할 수 있는 반면, 수학적 발견에 가치를 부여하는 인간의 사고를 약화할 수 있다고 경고한다. 현재 Terence Tao AI 수학 논쟁은 까다로운 구분을 중심으로 전개된다. 정답을 산출하는 것과 이해를 발전시키는 것은 서로 다른 성취다. 전자를 개선하는 도구가 후자를 자동으로 강화하는 것은 아니다.
Rivka Galchen이 11월 1일 New Yorker에 실은 Terence Tao 프로필은 그 격차에 대한 그의 우려가 커지고 있음을 보여준다. UCLA 교수인 그는 여전히 AI 보조 연구에 관심을 두고 있지만, 발견의 속도가 숙고를 앞지를 때 어떤 일이 벌어지는지에 대해 점점 더 의문을 제기하고 있다.
이 갈등은 자동화된 문제 해결과 설명, 토론, 교육이라는 더 느린 작업을 맞세운다. OpenAI, Google DeepMind, Anthropic은 이 연구 환경에서 활동한다. 대학, 연구자, 학생에게는 또 다른 책무가 있다. 더 나은 도구가 사람들 역시 더 나은 사고 능력을 갖추도록 해야 한다는 것이다.
Terence Tao AI 수학 논쟁은 역량을 넘어섰다
기계가 수학의 눈에 보이는 산출물을 더 많이 만들어낼 수 있게 된 지금, 핵심 쟁점은 수학적 진보에 무엇이 포함돼야 하는가가 되고 있다.
Tao는 최신 프로필이 나오기 전부터 이 구분을 명확히 했다. 국제수학자대회 공개 강연 이후 8월에 게시한 그의 에세이 Mathematics in AI는 AI 시스템이 연구 수준의 수학 작업을 수행할 수 있게 될 경우 수학계가 어떻게 대응해야 하는지를 다룬다.
이 에세이는 의도적으로 역량과 가치를 분리한다. 핵심 관심사는 기계가 수학 과제를 완수할 수 있는지 여부가 아니라, 수학이 무엇을 이루고자 하는지다.
이 분리는 논의의 성격을 바꾼다. AI가 언젠가 유용한 수학을 만들어낼지에 관한 논쟁은 새로운 결과가 나올 때마다 상반된 예측 속으로 흡수될 수 있다. 반면 사람들이 수학 작업을 통해 무엇을 얻어야 하는지에 관한 논쟁은 지금 연구 관행에 대한 결정을 요구한다.
해답을 받는 것과 방법을 발전시키는 것의 차이를 생각해 보자. 해답은 특정 문제에 관한 어떤 사실을 확립한다. 방법은 연구자가 관계를 파악하고, 가정을 식별하며, 아직 누구도 정식으로 제기하지 않은 문제에 접근하도록 도울 수 있다.
이러한 이점은 때로 함께 나타난다. 그러나 반드시 그럴 필요는 없다. 답은 타당할 수 있지만, 다른 사람이 설명하거나 확장하거나 가르기에는 여전히 어려울 수 있다.
이것이 Terence Tao AI 수학 경고의 분석적 힘이다. 자동화 성능의 향상만으로 대학이 연구자를 어떻게 교육해야 하는지, 학술지가 기여를 어떻게 평가해야 하는지는 결정되지 않는다. 그러한 기관에는 완성된 결과의 존재를 넘어서는 기준이 필요하다.
유용한 비교 대상은 추론을 이해하지 못한 채 정답을 얻는 학생이다. 정답은 여전히 맞다. 하지만 교육적 목표는 아직 달성되지 않았다.
익숙하지 않은 논증에는 알아차리는 데 시간이 필요한 아이디어가 담길 수 있기에 연구는 더 복잡하다. 어렵다는 사실만으로 결과에 가치가 없다고 단정할 수는 없다. 그러나 어려움이 그것을 이해하려는 노력을 포기하는 이유가 될 수도 없다.
실질적인 구분은 일시적인 낯섦과 영구적인 의존 사이에 있다. 낯선 증명은 탐구를 유도한다. 의존은 연구자가 충분히 검토할 수 없는 산출물에 반복적으로 기대기 시작할 때 형성된다.
이 구분은 왜 이 논쟁이 수학 밖에서도 중요한지를 설명한다. 많은 AI 시스템은 긴 지적 과정을 다듬어진 결과물로 압축한다. 그에 따른 편의성은 판단에 필요했던 과정의 어느 부분을 가릴 수 있다.
연구 요약, 소프트웨어 패치, 전략적 권고안은 수신자가 그 바탕이 된 선택을 이해하기 전에 완성돼 보일 수 있다. 따라서 산출물의 품질과 사용자의 역량은 별도로 평가해야 한다.
당장의 변화는 수학이 목적을 잃었다는 데 있지 않다. 자동화된 생산이 오래된 가정을 유지하기 어렵게 만들었다는 데 있다. 즉, 가치 있는 산출물은 가치 있는 지적 발전을 믿을 만하게 보여준다는 가정이다.
연구자와 학생은 모든 결과 뒤에 있는 작업을 이어받는다
결과를 만들어내기 쉬워질수록, 그것을 검증하고 설명하고 가르쳐야 할 책임은 더 뚜렷해진다.
활용 가능한 논증이 늘어난다고 해서 그것을 검토할 수 있는 시간이 자동으로 늘어나는 것은 아니다. 누군가는 여전히 결과가 무엇을 말하는지, 어떻게 작동하는지, 가정이 어디에 적용되는지를 판단해야 한다.
연구자에게 이는 명백한 오류를 찾는 것 이상을 뜻한다. 증명을 이해하려면 그 핵심 움직임을 식별해야 한다. 어떤 요소가 논증을 이끄는가? 어떤 조건이 바뀔 수 있는가? 이 결과는 다음으로 무엇을 조사해야 한다고 시사하는가?
편집자에게 과제는 주의를 배분하는 일이다. 기술적으로 복잡한 투고물은 그 중요성이 분명해지기까지 상당한 전문성을 요구할 수 있다. 중요한 단계가 불투명하게 남아 있다면, 매끄러운 설명도 그 비용을 없애지는 못한다.
지도교수에게 과제는 학생의 발전을 평가하는 일이다. 도구가 논증의 상당 부분을 제공할 수 있다면, 완성된 논증은 독립적 판단의 증거를 덜 제공한다.
이는 자동화 증가가 낳는 분석적 함의이지, 모든 수학과가 이미 같은 상황에 놓였다는 증거는 아니다. 서로 다른 분야, 기관, 프로젝트는 서로 다른 압력에 직면하게 될 것이다.
공통된 문제는 책임이다. AI가 생성한 결과물이 있다고 해서 개인이나 기관이 그 사용에 책임을 져야 할 필요가 사라지는 것은 아니다.
한 대학원생이 모델을 사용해 중간 결과를 위한 논증을 제안받는다고 가정해 보자. 학생이 그 가정을 조사하고 더 큰 프로젝트와 연결할 수 있을 때에만 그 제안은 도움이 된다.
학생이 논증을 이해한다면 도구는 학생의 역량 범위를 넓힌다. 학생이 단지 그것을 전달하기만 한다면, 불확실성은 지도교수, 공동 연구자, 또는 심사자에게 넘어간다.
문서 자체는 완성돼 보이기 때문에 이런 이전은 숨겨질 수 있다. 인간의 작업이 반드시 사라진 것은 아니다. 그 작업은 후속 단계로 이동했을 수 있다.
교육은 이와 관련된 문제를 제기한다. 연습문제는 답을 얻는 것 이상의 목적을 지니는 경우가 많다. 표현 방식을 선택하고, 모순을 알아차리고, 접근법이 실패한 뒤 다시 회복하는 능력을 기른다.
도구는 비생산적인 좌절을 줄일 수 있다. 동시에 사용자에게 생산적인 방향을 알아보는 법을 가르쳤을 경험도 없앨 수 있다.
그러므로 핵심 질문은 구체적이다. 어떤 종류의 어려움이 판단력을 기르고, 어떤 어려움은 단지 시간을 소모하는가?
모든 불편을 보존할 이유는 없다. 반복적인 서식 작업, 일상적인 계산, 낯선 표기법을 훑어보는 일은 독립적 추론과 같은 수준의 보호를 받을 필요가 없다.
하지만 기관에는 이런 활동을 구별할 방법이 필요하다. 그렇지 않으면 누구도 명시적으로 선택하지 않은 채 편의성이 기본 교육 정책이 된다.
같은 문제는 기술 분야의 직장에서도 나타난다. 팀은 생성된 문서를 남겨둘 수 있지만, 그 권고가 적절하도록 만들었던 추론은 잃을 수 있다.
훌륭한 개인 지식 관리는 관련된 비유를 제공한다. 출처, 결정, 미해결 질문을 보존하면 완성된 작업을 다시 검토하기가 쉬워진다.
연구에서도 교훈은 비슷하다. 다른 사람이 그 주변의 추론을 되짚을 수 있을 때 결과는 더 유용해진다. 여기에는 깔끔한 최종 표현뿐 아니라 기각된 접근법과 한계도 포함된다.
인센티브 격차는 해결된 문제와 공유된 통찰 사이에 놓여 있다
벤치마크는 연구 공동체가 답을 이해하는지 측정하지 않은 채 답의 산출을 보상할 수 있다.
9월, Tao는 이러한 불일치에 관한 성명에 서명한 다른 24명의 필즈상 수상자와 함께했다. 그들의 수학 연구 경고는 문제 해결이 개념적 이해라는 더 넓은 목표에 기여한다고 주장했다.
이 성명은 또한 AI가 수학 연구를 개선할 잠재력을 인정했다. 비판의 대상은 기술 발전과 해당 분야의 목적 사이의 정렬이었다.
이는 수학자와 기계 간의 대결보다 더 구체적인 논쟁이다. 이견은 무엇이 성공으로 간주되는지, 그리고 그 결과에 대한 책임을 누가 지는지에 관한 것이다.
시스템을 비교하기 위해 사용하는 표준화된 과제인 벤치마크에는 비교적 명확한 채점 규칙이 필요하다. 시스템이 특정 문제를 해결했는지는 인간의 이해를 향상했는지보다 평가하기 쉬울 수 있다.
이는 이해할 만한 측정 선호를 만든다. 기업은 시스템이 개선됐다는 증거가 필요하다. 연구자는 기여가 자신의 분야를 진전시킨다는 증거가 필요하다.
이 목표들은 겹칠 수 있다. 하지만 서로 다른 종류의 작업으로 관심을 끌어갈 수도 있다.
예를 들어 자동화 시스템이 전문가가 설명하고 재사용할 수 있는 올바른 논증을 찾아낼 수 있다. 이러한 결과는 역량 측정과 수학적 발전 모두에 기여한다.
다른 시스템은 구조를 해석하기 어려운 타당한 논증을 만들어낼 수도 있다. 이 경우 벤치마크상의 가치와 교육적 가치는 별도로 평가해야 한다.
어느 사례도 기업이 의도적으로 이해를 약화하려 한다는 뜻은 아니다. 악의적 의도 없이도 인센티브는 갈라질 수 있다. 좁은 성공 척도는 더 넓은 기관이 흡수하기 어려운 결과를 향해 개발을 이끌 수 있다.
따라서 OpenAI, Google DeepMind, Anthropic은 헤드라인 성과 이상으로 비교돼야 한다. 이들의 수학 시스템을 평가하는 독자에게 중요한 질문에는 증거 접근성, 설명의 품질, 재현 가능성, 인간의 관여가 포함된다.
이 글은 이들 기업 간 순위를 확립하지 않는다. 서로 다른 시연에는 서로 다른 과제, 도구, 지원, 평가 조건이 포함될 수 있다. 이를 서로 대체 가능한 것으로 취급하면 그 중요성을 결정하는 세부 사항이 가려진다.
자율적인 결과와 강한 감독 아래 이뤄진 협업은 서로 다른 질문에 답한다. 재발견된 논증과 새로운 방법도 둘 다 정답을 만들어내더라도 서로 다르게 기여한다.
업계의 보고 용어는 이런 구분을 보존해야 한다. 그렇지 않으면 실제 작업에 대한 설명은 점점 압축되는데 주장은 점점 더 광범위해질 수 있다.
학계의 인센티브도 검토할 필요가 있다. 기관이 설명은 간과한 채 최종 산출물만 보상한다면, 기술 기업에서 비판하는 바로 그 불일치를 재현할 수 있다.
학과는 공개 성명에서만 이해를 옹호할 수는 없다. 어려운 결과를 이해 가능하게 만드는 데 필요한 작업을 평가 관행에서도 인정해야 한다.
여기에는 해설, 독립적 검증, 교육이 포함된다. 누가 가장 먼저 해답을 발표했는지에 관심이 집중될 때 이러한 활동은 부차적으로 보일 수 있다.
Terence Tao AI 수학 논쟁은 이러한 긴장을 분명히 드러낸다. 목표가 공유된 지적 진보라면, 기관은 다른 사람이 추론하도록 돕는 기여를 인정해야 한다.
완료된 문제만 세는 것으로는 이 목표를 포착할 수 없다. 이는 산출물을 측정할 뿐, 그 주변의 지적 역량은 대체로 검토하지 않은 채 남긴다.
검증된 증명에도 사람들이 활용할 수 있는 설명이 필요하다
기계적 정확성과 인간의 이해는 서로 다른 질문에 답하며, 유용한 연구는 둘을 연결해야 한다.
프란체스코 마지(Francesco Maggi)는 10월 Tao의 블로그에 게재한 기고문에서 AI가 생성한 일부 수학 작업을 해석하는 어려움을 설명한다. 그의 증명 해석 분석은 기계 검증이 가능한 긴 논증과 불충분한 자연어 설명을 다룬다.
Maggi는 과학적 기회와 함께 지식이 인간의 이해로부터 점점 더 분리될 위험을 모두 지적한다. 그의 주장은 피할 수 없는 쇠퇴를 측정한 결과가 아니라, 가능한 결과에 대한 경고다.
형식 논증을 검사하는 소프트웨어인 증명 보조기는 중요한 종류의 보증을 제공할 수 있다. 주어진 정의와 가정 아래 명시된 단계들이 어떤 주장을 확립하는지 검사한다.
하지만 그 보증이 그 주장이 왜 중요한지를 자동으로 설명해 주지는 않는다. 또한 논증의 어느 부분에 가장 폭넓게 활용할 수 있는 아이디어가 담겼는지도 독자에게 알려주지 않는다.
명시된 검사를 통과했지만 여전히 유지보수하기 어려운 프로그램을 받는 상황을 생각해 보자. 검사를 통과했다는 사실은 중요하다. 그러나 개발자는 안전하게 수정하기 전에 여전히 그 프로그램을 이해해야 한다.
수학적 증명과 상용 소프트웨어는 서로 다른 목적을 지니므로 이 비유에는 한계가 있다. 그럼에도 검증과 설명이 별도의 요건으로 남아야 하는 이유를 잘 보여준다.
형식 논증은 논리적 관계를 확립한다. 설명은 사람이 그 관계를 이해하고, 그 중요성을 파악하며, 관련 추론을 다른 곳에 적용하도록 돕는다.
이 구분은 자율적 수학 연구에 관한 주장을 평가할 때 특히 중요하다. 독자는 정확히 무엇이 검증되었는지 물어야 한다.
원래의 수학적 명제는 충실하게 표현되었는가? 가정은 적절했는가? 설명은 검증된 논증과 일치하는가? 독립적인 전문가들이 결과를 조사할 수 있는가?
이 질문들은 형식 검증을 무효화하지 않는다. 대신 검증이 확립한 내용을 해석하는 데 필요한 주변 작업을 짚어 준다.
과도한 신중함에 대한 강력한 반론도 있다. 인간은 언제나 자신이 직접 보유하지 않은 전문성에 의존해 왔다. 어떤 연구자도 모든 프로젝트에서 사용하는 모든 결과를 독립적으로 재구성하지는 않는다.
이 반론은 중요하다. 보편적이고 완전한 이해를 요구한다면 협력 과학은 불가능해진다. 적절한 기준은 모든 독자가 모든 기술적 세부 사항을 이해해야 한다는 것이 될 수 없다.
더 실용적인 기준은 이해에 대한 책임 있는 접근성이다. 관련 전문가들은 논증을 검토하고, 그 의존 관계를 설명하며, 그 해석에 이의를 제기할 수 있어야 한다.
부담의 수준은 달라질 것이다. 일상적인 보조 계산은 전체 연구 프로그램의 방향을 바꾸는 주장과 같은 수준의 검토를 필요로 하지 않는다.
낯섦이 거부권이 되어서는 안 된다. 어려운 AI 보조 증명은 결국 인간이 놓쳤던 접근법을 드러낼 수 있다. 처음에는 낯설게 느껴진다는 이유로 이를 거부한다면 잠재적 통찰을 포기하게 된다.
따라서 회의적인 입장에도 한계가 필요하다. 여기에는 AI가 반드시 수학적 사고를 파괴한다거나 자동화된 증명이 지적 가치를 지니지 않는다고 결론 내릴 근거가 없다.
더 많은 자동화된 산출물이 반드시 이 분야를 강화한다고 가정할 근거도 없다. 그 결과는 사람들이 시스템이 만들어 내는 것을 해석하고, 흡수하고, 그 위에 더 발전시킬 수 있는지에 달려 있다.
가장 타당한 우려는 불균형에 관한 것이다. 생산 능력은 결과를 공동의 이해로 전환하는 데 필요한 제도와 관행보다 더 빠르게 발전할 수 있다.
Tao의 대안은 인간을 연구 과정 안에 둔다
건설적인 대응은 인간의 참여, 설명, 지적 독립성을 중심으로 AI 보조 수학을 설계하는 것이다.
Tao의 10월 Math 2.0 비전은 AI가 수학 공동체와 수학적 이해의 역할을 지원하는 미래를 설명한다.
그의 관점은 미해결 문제에 대한 자동화된 해법을 지나치게 강조하는 태도를 비판한다. 대신 수학 작업이 유용하게 유지되는 더 광범위한 조건에 주의를 돌린다.
이 접근은 실험을 위한 상당한 여지를 남긴다. 예시를 제안하는 보조 도구는 연구자가 아이디어를 탐색하도록 도울 수 있다. 논증을 비교하는 시스템은 숨은 가정을 드러낼 수 있다. 낯선 표기법을 설명하는 도구는 진입 장벽을 낮출 수 있다.
이는 예시적 활용 사례일 뿐, 특정 제품이 이를 신뢰성 있게 수행한다는 주장은 아니다. 각각은 실제 연구 과제 안에서 평가되어야 한다.
공통점은 인간이 추론 과정에 계속 관여한다는 것이다. 도구는 단지 받아들이기 위한 무언가를 제공하는 대신, 조사할 기회를 만든다.
유용한 연구 인터페이스는 불확실성을 더 쉽게 살펴볼 수 있게 할 수 있다. 검색된 자료와 생성된 제안을 구분하고, 어느 단계에 독립적 검토가 필요한지 보여줄 수 있다.
또 다른 설계는 중간 시도를 보존할 수 있다. 실패한 접근법은 겉보기에는 자연스러운 전략이 왜 작동하지 않는지 드러낼 수 있다. 이를 기록에서 제거하면 결과를 이해하기 더 어려워질 수 있다.
이런 기능이 훌륭한 연구를 보장하지는 않는다. 그러나 정보에 기반한 관여를 더 쉽게 만들고, 사용자와 근거 자료 사이의 장벽을 줄일 수 있다.
이것이 인지적 노력을 보존해야 한다는 주장이 불편함을 무조건 옹호하는 논리가 되어서는 안 되는 이유이기도 하다. 연구자에게는 피할 수 있는 장벽을 제거하는 도구가 필요하다.
중요한 구분은 그 노력의 목적에 있다. 반복적인 자료를 직접 검색하는 일은 이해를 깊게 하지 못하면서 주의를 소모할 수 있다. 경쟁하는 설명들 사이에서 선택하는 일은 판단력을 기를 수 있다.
좋은 보조 도구는 사용자가 전자에는 시간을 덜 쓰도록 돕는 동시에, 후자를 수행할 능력은 유지하게 해야 한다.
대학도 같은 원칙을 평가에 적용할 수 있다. 잘 다듬어진 제출물에는 선택을 설명하고, 변형을 검토하며, 이의 제기에 대응할 기회가 수반되어야 한다.
이런 관행은 문체에서 이해를 추정하려는 시도보다 이해를 더 직접적으로 평가한다. AI가 전혀 개입하지 않았을 때도 여전히 유용하다.
연구 그룹도 마찬가지로 지원과 책임을 구분할 수 있다. 도구가 논증에 기여할 수는 있지만, 그 역할과 한계를 정확히 설명할 책임은 여전히 사람에게 있다.
이 접근에는 단순한 공개 표기 이상이 필요하다. AI를 사용했다고 밝히는 것만으로는 추론의 어떤 부분이 AI에서 왔는지, 그 부분을 어떻게 검토했는지 설명되지 않는다.
관련 기록은 의미 있는 후속 검토를 뒷받침해야 한다. 협업자는 왜 특정 가정이 등장했는지, 주장이 어디에서 비롯됐는지, 무엇이 아직 해결되지 않았는지 물을 수 있어야 한다.
지식 노동자에게 이것은 Tao의 주장 가운데 가장 폭넓게 적용할 수 있는 부분이다. 지적 통제력을 유지하려면 결과물 뒤에 있는 경로에 접근할 수 있어야 한다.
완성된 문서는 시간을 절약할 수 있다. 복원 가능한 추론 과정은 그 문서가 얼마나 신뢰받을 가치가 있는지 판단할 능력을 보존할 수 있다.
새로운 결과가 타인이 확장할 수 있는 지식이 되는지 지켜보라
다음으로 유용한 신호는 독립적 이해, 투명한 근거, 연구 평가의 변화와 관련된다.
앞으로 몇 달 동안 주목할 첫 번째 신호는 주목받는 AI 보조 결과에 대한 독립적 설명이다. 중요한 변화는 원래 팀 외부의 전문가들이 제공하는 활용 가능한 설명이다.
설명은 핵심 아이디어를 명확히 하고, 중요한 가정을 식별하며, 논증이 기존 작업과 어떻게 연결되는지 보여줘야 한다. 결과가 옳아 보인다는 합의는 가치 있지만, 더 좁은 질문에 답할 뿐이다.
독립 연구자들이 논증을 단순화하거나 확장한다면 자동화된 생산이 공동의 발견으로 이어질 수 있다는 근거가 강화된다. 해석이 계속해서 원래 창안자에게 의존한다면 Tao의 우려는 더 설득력을 얻는다.
두 번째 신호는 새로운 시연에 수반되는 근거다. 개발자와 연구자가 모델의 기여를 인간의 안내 및 이후의 수정과 구분할 만큼 충분한 자료를 제공하는지 살펴봐야 한다.
유용한 공개는 연구 과정을 더 쉽게 검토할 수 있게 해야 한다. 완성도 높아 보이는 최종 증명만으로는 얼마나 많은 개입이 필요했는지, 어떤 결정에 전문가의 판단이 요구됐는지 알 수 없다.
더 큰 투명성은 시스템 간 비교를 더 유익하게 만들 것이다. 근거가 빈약하면 독자는 인상적인 산출물과 반복 가능한 연구 역량을 구분할 수 없게 된다.
세 번째 신호는 제도적 조치다. 학술지의 기대치, 대학원 평가, 설명 작업에 부여되는 인정에 구체적인 변화가 있는지 지켜봐야 한다.
저자에게 가정을 명확히 하고 독립적 검토를 뒷받침하도록 요구하는 정책은 일반적인 AI 표기보다 근본 문제를 더 직접적으로 다룰 것이다.
마찬가지로 학생이 논증을 방어하고 변형할 수 있는 능력을 평가하는 교육은 역량에 초점을 맞출 것이다. 단순히 완료한 과제 수를 세는 것은 더 약한 신호를 제공할 뿐이다.
이러한 관찰이 AI가 수학에 좋은지에 대한 단순한 판정을 내리지는 않을 것이다. 대신 어떤 체계가 사람들이 자동화된 기여를 지속적인 지적 진보로 전환하도록 돕는지 보여줄 것이다.
이 구분은 독자에게 극적인 발표를 평가하는 더 나은 방법도 제공한다. 무엇이 만들어졌는지, 무엇이 검증됐는지, 누가 그것을 이해하는지, 이제 다른 이들이 무엇을 할 수 있는지 물어보라.
이 질문들은 홍보를 검증으로 취급하지 않으면서도 열광할 여지를 보존한다. 또한 낯선 방법이 가치 없다고 가정하지 않으면서 비판할 여지도 보존한다.
Terence Tao의 AI 수학 경고는 더 나은 기준을 요구하는 말로서 가장 유용하다. 더 빠른 산출은 그 산출물이 무엇을 기여하는지 아는 일의 중요성을 높인다.
다음에 마주치는 AI 생성 결과부터 시작해 보자. 그것이 증명, 분석, 기술적 권고 중 무엇이든 다듬어진 설명에 의존하기 전에 원자료를 검토하라. 가정을 식별하고 무엇이 당신의 해석을 바꿀지 물어보라. 나중의 독자가 판단이 여전히 필요한 지점을 볼 수 있도록, 해결되지 않은 질문을 완성된 산출물 곁에 남겨 두라. 가능하다면 핵심 추론을 자신의 말로 설명하고 가까운 사례에 적용해 검증하라. 모든 전문적 세부 사항을 재현할 필요는 없다. 다만 그 결과가 왜 당신의 신뢰를 받을 만한지에 대한 타당한 설명은 필요하다. 이 기준을 사용해 어떤 AI 기여가 당신의 사고를 더 발전시키는 데 도움이 되는지, 어떤 기여가 아직 더 많은 작업을 필요로 하는지 판단하라.
