슈퍼컴퓨터는 어떻게 작동하는가: 계산 속도 경쟁의 역사

이 영상은 맨해튼 프로젝트의 계산 수요에서 출발해 인간 계산원, 폰 노이만의 저장 프로그램 구조, ENIAC과 초기 컴퓨터, 1950년대 산업화, 기상 예보의 발전을 차례로 짚습니다. 계산 속도가 곧 문제 해결의 한계라는 점, 그리고 병렬 처리가 핵심 아이디어라는 점이 반복해서 강조됩니다.

⏱ 00:00지금 이 순간에도 미국 테네시주 오크리지, 일본 고베, 뮌헨 외곽의 건물 같은 곳에서 슈퍼컴퓨터가 돌아가고 있습니다. 이 기계들은 사람이 손으로 계산한다면 수십억 년을 쉬지 않고 해야 할 연산을 단 1초 만에 해냅니다. 발표자는 이 설명을 과장이 아닌 사실로 제시하면서, 종이 계산에서 빅뱅 직후를 시뮬레이션하는 기계까지 이어지는 이야기를 천천히 따라가겠다고 말합니다.

핵심은 기계 자체보다 사람들이 품었던 질문과 문제의식에서 출발한다는 점입니다.

⏱ 00:161943년 로스앨러모스의 맨해튼 프로젝트에서는 중성자가 핵물질 속에서 연쇄 반응하는 과정과 폭발 시 유체의 움직임을 계산해야 했습니다. 이 문제들은 미분방정식으로 표현되지만 깔끔한 해를 쓸 수 없어서, 근사값을 단계별로 수없이 반복해 계산해야 했습니다.

이 일을 맡은 사람은 주로 여성이었고, 직함도 계산하는 사람이라는 뜻의 컴퓨터였습니다. 이들은 기계식 계산기로 작업을 나누어 결과를 다음 사람에게 넘기는 방식으로 일했는데, 물리학자들이 기다리기에는 너무 느렸습니다. 천공카드 기계를 여러 대 동시에 돌리는 방식으로 작업을 나눈 것이 병렬 처리의 출발점 중 하나로 소개됩니다.

⏱ 04:39존 폰 노이만은 뛰어난 지적 능력으로 유명한 수학자였고, 맨해튼 프로젝트에 자문하면서 계산 병목을 직접 겪었습니다. 1945년 그는 EDVAC에 관한 보고서 초안을 발표했는데, 여기서 명령어를 데이터와 같은 메모리에 저장하는 구조를 제시했습니다.

이전의 ENIAC은 문제마다 선을 다시 연결하고 스위치를 바꿔야 했습니다. 프로그램을 숫자로 메모리에 저장하면 기계가 스스로 읽고 실행하며 심지어 고칠 수도 있다는 점이 이 구조의 핵심입니다. 다만 실제 설계에 기여한 에커트와 머클리 같은 엔지니어들의 몫이 충분히 인정받지 못했다는 논쟁도 함께 언급됩니다. 이 구조는 오늘날 노트북과 휴대폰을 포함한 대부분의 범용 컴퓨터의 기본 틀이 되었습니다.

⏱ 08:00펜실베이니아 대학의 ENIAC은 1945년 완성되었고, 약 30톤에 진공관 1만 8천 개를 쓰는 거대한 기계였습니다. 방 하나를 가득 채웠으며 초당 약 5천 번의 덧셈을 할 수 있었습니다. 사람이 계산기로 몇 주 걸릴 일을 몇 시간 안에 끝낼 수 있었으니 당시로서는 혁명적이었습니다.

첫 대형 작업 중 하나는 수소폭탄의 실현 가능성을 검토하는 계산이었고, 이는 천공카드 백만 장과 몇 주의 기계 시간이 필요했습니다. 이후 프린스턴의 IAS 기계, 영국 맨체스터의 베이비, 미국 국립표준국의 SEAC 등이 잇따라 만들어졌습니다. 이 기계들은 한 대씩 손으로 만든 것이었고, 진공관이 자주 타서 엔지니어들이 고장 난 관을 빠르게 교체하며 기계를 유지했습니다. 당시에는 슈퍼컴퓨터라는 말이 없었고, 만들어진 기계마다 사실상 세계 최고 성능이었을 뿐이었습니다.

⏱ 12:191950년대에는 컴퓨터가 연구실 한두 대의 특수 장비에서 산업으로 바뀌기 시작했습니다. IBM은 천공카드 장비를 만들던 회사로서 전자식 컴퓨터로 방향을 크게 틀었고, 1952년 발표한 IBM 701은 국방용 계산기로 홍보되었습니다. 이름에서 보이듯 군사 용도와 연결되어 있었습니다.

이 기계는 약 19대가 만들어졌는데, 한 대씩 만들던 시기에 비하면 큰 변화였습니다. 로스앨러모스, 기상 기관, 항공 회사 등이 이 기계를 썼고, 핵무기 설계, 기상 예측, 항공 공기역학 같은 문제가 슈퍼컴퓨터 발전을 이끌 과제가 되었습니다.

⏱ 13:43기상 예측을 수학으로 한다는 발상은 영국의 리처드슨이 1922년 책에서 제시했습니다. 대기를 격자로 나누고 유체역학 방정식으로 각 칸의 온도, 기압, 바람이 시간에 따라 어떻게 변하는지 계산하는 방법이었습니다. 그는 제1차 세계대전 중 구급차를 개조한 곳에서 손으로 계산을 시도했는데, 6시간 예보를 만드는 데 6주가 걸렸고 결과도 크게 빗나갔습니다.

수학은 맞았지만 계산 능력이 모자랐던 것입니다. 1950년 샤니와 폰 노이만은 ENIAC으로 최초의 수치 기상 예보에 성공했습니다. 이후 더 빠른 컴퓨터가 나올 때마다 격자는 촘촘해지고 모델은 정교해졌으며, 오늘날 휴대폰으로 보는 예보도 이 흐름의 직접적인 후손이라고 설명됩니다.

⏱ 16:151950년대 말에는 한 개의 프로세서를 더 빠르게 만드는 방식이 물리적 한계에 부딪히기 시작했습니다. 진공관은 스위칭 속도에 한계가 있었고, 엄청난 열을 냈으며, 쉽게 고장 났습니다. 문제는 점점 어려워지는데 속도에 대한 요구는 계속 커지고 있었습니다.

발표자는 이런 긴장이 쌓이면서 무언가 바뀌어야 했고 실제로 바뀌었다고 말합니다. 자막은 1947년 벨 연구소 이야기로 넘어가는 지점에서 끝나므로, 이 부분에서는 이후 전개를 예고하는 수준으로만 정리할 수 있습니다.