아이들은 자연과학자입니다. 그들은 세상을 관찰하고, 가설을 세우고, 테스트합니다. 결국, 그들은 (때로는 사랑스럽고 재미있는) 추론을 설명하는 방법을 배웁니다.
AI, 그다지 많지는 않습니다. 두뇌에 기반을 둔 일종의 기계 학습인 딥 러닝이 기술을 극적으로 변화시키고 있다는 것은 의심의 여지가 없습니다. 극단적인 날씨 패턴을 예측하는 것부터 새로운 약물을 설계하거나 치명적인 암을 진단하는 것까지 AI는 과학의 최전선 에 점점 더 통합되고 있습니다 .
그러나 딥러닝에는 엄청난 단점이 있습니다. 알고리즘이 답변을 정당화할 수 없다는 것입니다. 종종 “블랙박스” 문제라고 불리는 이러한 불투명성은 의학과 같은 고위험 상황에서 사용하는 것을 방해합니다. 환자들은 인생을 바꾸는 질병을 진단받았을 때 설명을 원합니다. 현재 딥러닝 기반 알고리즘은 진단 정확도가 높더라도 해당 정보를 제공할 수 없습니다.
블랙박스를 열기 위해 텍사스 대학교 사우스웨스턴 메디컬 센터(University of Texas Southwestern Medical Center) 팀은 영감을 얻기 위해 인간의 마음을 두드렸습니다. Nature Computational Science 연구 에서 그들은 뇌 네트워크 연구의 원리를 설명 가능한 구성 요소에 의존하는 보다 전통적인 AI 접근 방식과 결합했습니다.
그 결과 AI는 약간 어린이처럼 행동합니다. 다양한 유형의 정보를 “허브”로 압축합니다. 그런 다음 각 허브는 인간이 읽을 수 있는 코딩 지침으로 기록됩니다. 즉, 데이터에서 발견된 패턴에 대한 알고리즘의 결론을 일반 영어로 설명하는 프로그래머를 위한 CliffsNotes입니다. 또한 시험해 볼 수 있는 완전히 실행 가능한 프로그래밍 코드를 생성할 수도 있습니다.
‘심층 증류’라고 불리는 이 AI는 어려운 수학 문제, 이미지 인식 등 다양한 작업에 도전할 때 과학자처럼 작동합니다. AI는 데이터를 뒤져 인간이 설계한 것보다 성능이 뛰어난 단계별 알고리즘으로 데이터를 추출합니다.
“심층 증류는 인간의 전문 지식을 보완하는 일반화 가능한 원리를 발견할 수 있습니다.”라고 팀은 논문에 썼습니다 .
얇은 종이
AI는 현실 세계에서 가끔 실수를 하기도 합니다. 로봇택시를 타세요. 작년에 일부 사람들은 샌프란시스코 인근 지역에 반복적으로 갇혔습니다. 지역 주민들에게는 귀찮은 일이었지만 여전히 웃음을 터뜨렸습니다. 더 심각하게는 자율주행차가 교통과 구급차를 가로막고 보행자에게 심각한 피해를 입힌 경우도 있었습니다.
의료 및 과학 연구에서도 위험이 높을 수 있습니다.
이러한 고위험 영역의 경우, 알고리즘은 “오류에 대한 낮은 허용치를 요구합니다”라고 연구에 참여하지 않은 베이루트 미국 대학의 Joseph Bakarji 박사는 이 작업에 대한 동반 기사에서 썼습니다 .
대부분의 딥러닝 알고리즘의 장벽은 설명 불가능성입니다. 다층 네트워크로 구성되어 있습니다. 수많은 원시 정보를 수집하고 수많은 피드백을 수신함으로써 네트워크는 연결을 조정하여 결국 정확한 답변을 생성합니다.
이 과정이 딥러닝의 핵심입니다. 하지만 데이터가 충분하지 않거나 작업이 너무 복잡하면 어려움을 겪습니다.
2021년에 팀은 다른 접근 방식을 취하는 AI를 개발했습니다 . “기호적” 추론이라고 불리는 신경망은 데이터를 관찰하여 명시적인 규칙과 경험을 인코딩합니다.
딥러닝에 비해 상징적 모델은 사람들이 해석하기 더 쉽습니다. AI를 각각 객체나 개념을 나타내는 레고 블록 세트로 생각하십시오. 그것들은 창의적인 방식으로 서로 조화를 이룰 수 있지만 연결은 명확한 규칙을 따릅니다.
그 자체로 AI는 강력하지만 부서지기 쉽습니다. 빌딩 블록을 찾기 위해 이전 지식에 크게 의존합니다. 사전 경험 없이 새로운 상황에 도전하면 고정관념에서 벗어나 생각하지 못하고 무너집니다.
여기에서 신경과학이 등장합니다. 팀은 서로 다른 뇌 영역이 어떻게 함께 작동하는지 보여주는 모델인 커넥텀에서 영감을 받았습니다. 이러한 연결성을 상징적 추론과 결합함으로써 그들은 견고하고 설명 가능한 기초를 가지면서도 새로운 문제에 직면했을 때 유연하게 적응할 수 있는 AI를 만들었습니다.
여러 테스트에서 “신경인지” 모델은 추론이 필요한 작업에서 다른 심층 신경망을 능가했습니다.
하지만 이를 설명하기 위해 데이터와 엔지니어 알고리즘이 합리적일 수 있을까요?
인간의 손길
과학적 발견에서 가장 어려운 부분 중 하나는 시끄러운 데이터를 관찰하고 결론을 추출하는 것입니다. 이 과정은 새로운 재료와 약물, 생물학에 대한 더 깊은 이해, 물리적 세계에 대한 통찰력으로 이어집니다. 종종 이는 수년이 걸리는 반복적인 프로세스입니다.
AI는 작업 속도를 높이고 잠재적으로 인간의 마음에서 벗어난 패턴을 찾을 수 있습니다. 예를 들어, 딥러닝은 단백질 구조를 예측하는 데 특히 유용했지만, 이러한 구조를 예측하는 추론은 이해하기 어렵습니다.
“인간이 일반적으로 하는 것처럼 관찰을 간단하고 포괄적인 규칙으로 추출하는 학습 알고리즘을 설계할 수 있습니까?” Bakarji를 썼습니다.
새로운 연구에서는 팀의 기존 신경인지 모델을 활용하여 코드 작성 능력이라는 추가적인 재능을 부여했습니다.
심층 증류라고 불리는 AI는 유사한 개념을 그룹화하여 각 인공 뉴런이 특정 개념과 다른 개념과의 연결을 인코딩합니다. 예를 들어, 하나의 뉴런은 고양이의 개념을 학습하고 그것이 개와 다르다는 것을 알 수 있습니다. 또 다른 유형은 새로운 그림(예: 호랑이)에 도전할 때 가변성을 처리하여 그것이 고양이에 더 가까운지 개에 더 가까운지를 결정합니다.
그런 다음 이러한 인공 뉴런은 계층 구조로 쌓입니다. 각 계층에서 시스템은 점점 더 개념을 차별화하고 결국 솔루션을 찾습니다.
AI가 가능한 한 많은 데이터를 처리하도록 하는 대신 교육은 단계별로 진행됩니다. 마치 유아를 가르치는 것과 같습니다. 이를 통해 AI가 점차적으로 새로운 문제를 해결하면서 AI의 추론을 평가할 수 있습니다.
Bakarji는 표준 신경망 훈련과 비교하여 AI에는 설명이 필요 없는 측면이 내장되어 있다고 설명했습니다.
테스트에서 팀은 고전 비디오 게임인 Conway’s Game of Life를 통해 AI에 도전했습니다. 1970년대에 처음 개발된 이 게임은 특정 규칙 세트에 따라 디지털 세포를 다양한 패턴으로 성장시키는 것에 관한 것입니다( 여기에서 직접 시도해 보세요 ). 시뮬레이션된 게임 플레이 데이터를 기반으로 훈련된 AI는 잠재적인 결과를 예측하고 추론을 사람이 읽을 수 있는 지침이나 컴퓨터 프로그래밍 코드로 변환할 수 있었습니다.
AI는 또한 이미지의 선을 감지하고 어려운 수학 문제를 해결하는 등 다양한 다른 작업에서도 잘 작동했습니다. 어떤 경우에는 기존 방법을 능가하는 창의적인 컴퓨터 코드를 생성했으며 그 이유를 설명할 수 있었습니다.
심층 증류는 간단한 부품이 극도로 복잡한 시스템을 생성하는 물리 및 생물학에 도움이 될 수 있습니다. 이 방법의 잠재적인 응용 분야 중 하나는 DNA 기능을 해독하는 연구자를 위한 공동 과학자입니다. 우리 DNA의 대부분은 “암흑 물질”입니다. 즉, 그것이 어떤 역할을 하는지 우리는 알 수 없습니다. 설명 가능한 AI는 잠재적으로 유전적 서열을 분석하고 유전학자가 치명적인 유전병을 일으키는 희귀한 돌연변이를 식별하는 데 도움을 줄 수 있습니다.
연구 외에도 팀은 AI와 인간의 협력이 더욱 강력해질 것이라는 전망에 매우 기뻐하고 있습니다.
” 신경기호적 접근 방식은 잠재적으로 인간과 유사한 기계 학습 기능을 허용할 수 있습니다.”라고 팀은 썼습니다.
바카르지도 동의한다. 새로운 연구는 “기술적 발전을 넘어 오늘날 우리가 직면하고 있는 윤리적, 사회적 문제를 다루고 있습니다.” 설명 가능성은 AI 시스템이 훈련을 받을 때 인간의 가치와 동기화되도록 돕는 가드레일 역할을 할 수 있습니다. 의료와 같은 고위험 애플리케이션의 경우 신뢰를 구축할 수 있습니다.
현재로서는 알고리즘이 개념으로 분류될 수 있는 문제를 해결할 때 가장 잘 작동합니다. 비디오 스트림과 같은 지속적인 데이터를 처리할 수 없습니다.
이것이 심층 증류의 다음 단계라고 Bakarji는 썼습니다. 이는 “과학적 컴퓨팅과 이론 연구에 새로운 가능성을 열어줄 것입니다.”
