반도체용 물리적 AI 시스템 설계: 기존에 발표된 디자인들이 이미 답하고 있는 것들

First published on CodeNinja Atoms.

팹(fab)은 미국에 있든 다른 곳의 패키징 및 테스트 플랜트이든 동일한 첫 질문을 던집니다: 현재 사이트 전반에서 무슨 일이 일어나고 있는지 한 장의 그림으로 파악할 수 있는가, 서브팹(subfab)에 있는 어떤 펌프, 냉각기 또는 스크러버가 정지 상태로 이탈하고 있는가, 공구 및 시설 네트워크에는 실제로 무엇이 연결되어 있으며 감사관에게 증명할 수 있는가, 벌크 화학물질 탱크의 레벨 측정값이 주장하는 탱크에 속하는가, 화재 방호 시스템은 실제로 작동 중인가, 움직이는 장비 근처에 누가 서 있는가, 어떤 교대 근무조가 사고로 이탈하고 있는가, 그리고 기록된 출하량과 비교하여 몇 개의 유닛이 건물 밖으로 나갔는가. 본 사이트의 시리즈에는 아직 반도체 설계가 포함되어 있지 않습니다. 여기에는 다른 분야의 열여덟 가지 공개 참조 아키텍처가 있으며, 그중 아홉 개는 또 다른 환경에서 이러한 질문 중 하나를 던지는 운영을 위해 작성되었습니다. 이 가이드는 팹 운영자가 각 논문이 말하는 것만을 사용하여 읽습니다.

지도 (The map)

Port Twin은 모든 대시보드가 단면(slice)일 때의 문제에 대한 설계입니다. 이는 8개의 운영 시스템, 5개의 실시간 센서 피드, 그리고 1개의 금융 백본을 13개의 타입화된 객체와 13개의 링크로 결합하며, 이 과정에서 베스(berth)가 초점 객체가 됩니다. 이들은 세 가지 어댑터 패밀리와 하나의 이벤트 백본을 통해 연결됩니다. 공장이 인식할 수 있는 규칙은 경계입니다. 즉, 트윈이 보여주고, 파일럿과 베스 플래너, 엔지니어 및 재무 직원이 자신들의 시스템에서 결정하며, 어떤 것도 기록 시스템(system of record)에 다시 쓰이지 않습니다. 레지스트리 내의 유일한 모델은 문서 검색을 위한 자체 호스팅 오픈 모델인 BGE-M3이며, 이는 항구의 기존 기업 가상 머신에 약 1.1 GB의 fp16 가중치만 사용하므로 장비 구매가 필요 없습니다. 공장의 경우, 제조 실행 시스템(MES), 시설 모니터링 시스템, 유지보수 시스템, 그리고 문서 저장소가 항구의 시스템을 대체합니다. 소유된 시스템 위에서 읽기 전용 트윈을 구현하는 패턴은 변함없이 적용되며, 중심 객체는 공장이 선택하는 것입니다.

서브팹 및 시설 장비: 조언만 하고 절대로 트리거하지 않기

Turbine Island Watch는 DCS로부터의 단방향 OPC UA 읽기(read)를 통해 복구된 280 MW 수소 냉각 증기 터빈 발전기, 진동 모니터링 랙, 그리고 발전기 보호 시스템을 포함하여 총 여덟 개의 명명된 플랜트 시스템으로부터 데이터를 받습니다. 이 중 세 가지 규칙은 변경 없이 진공 펌프, 냉각기(chiller), 오염 방지 장치(abatement unit) 또는 급기 처리 장치(makeup air handler)로 전송됩니다. 데이터 읽기는 단방향이며 DCS에 아무것도 쓰여지지 않습니다. 플랫폼이 조언하고 보호 계층이 트립(trip)하며, 따라서 모든 경고는 명명된 교대 근무 운영자가 인지하는 규정된 조치를 수반합니다. 그리고 배포 게이트는 숫자로 표현됩니다: 주당 2개의 오탐지 경보가 발생하며, 임계값은 입증 가능한 이력이 있는 채널에 대해서만 조정됩니다. 이는 논문에서 플랫폼이 열차 운영자가 무시하도록 훈련시키는 '경고 범람(alert flooding)'이라고 지적하는 것과 같습니다. MOMENT-1 (MIT)은 원격 측정 데이터(telemetry)를 통해 제로샷(zero shot)으로 이상 징후를 감지하고, IBM Granite 4.2 8B (Apache-2.0)가 진단 노트와 테스트 보고서를 작성하며, 별도의 학습 실행이 필요하지 않습니다. 컴퓨팅 자원은 플랜트 경계 내의 견고화된(ruggedised) 엣지 서버에 장착된 48 GB PCIe 추론 GPU 클래스 카드 1개이며, 이 사이트 전체 환경을 3년 동안 소유하는 비용은 약 22,500 미국 달러입니다.

제어 네트워크에는 무엇이 있으며, 그 증거는

Grid Context Watch는 OT 보안 리드와 컴플라이언스 리드가 함께 던지는 질문에 대한 설계입니다. 즉, 제어 네트워크에 무엇이 연결되어 있는지, 그 위에 어떤 것이 비정상적으로 작동하는지, 그리고 감사관이 도착했을 때 그것을 증거로 입증할 수 있는지가 핵심입니다. 이 시스템은 10개의 소스 시스템(SIEM, OT 탐지 도구, IT 모니터링 플랫폼, 에너지 관리 시스템, 변전소 데이터 플랫폼 등)을 2개의 어댑터 패밀리를 통해 통합하여, OT 자산을 초점 객체로 하는 14가지 유형의 객체와 14가지 링크를 만듭니다. 여기에는 취약점 발견 기록, 탐지 규칙, pcap 증거 기록, CIP 증거 아티팩트가 포함됩니다. 경계는 읽기 전용이며 제어 네트워크에서 외부로 나가는 방향만 허용합니다. 어떠한 데이터도 전자 보안 경계 안으로 쓰여지지 않으며, 운영자로부터 어떤 데이터도 유출되지 않습니다. 탐지는 구매된 센서 내에 머무릅니다. GLM 5.2 (MIT)와 Qwen3-Embedding-0.6B (Apache-2.0)는 8개의 141 GB HBM급 GPU 중 하나의 노드에서 실행되며, 총 753 GB의 FP8 가중치와 1.2 계획 계수를 적용하여 904 GB를 사용하고, 이는 1,128 GB에 대비됩니다. 해당 노드를 소유하는 비용은 3년에 걸쳐 약 51만 달러로, 가장 깊은 3년 AWS 커밋먼트의 약 4/5 수준입니다. 모든 분류(triage), 사례(case) 및 위험 수용에는 이름이 지정된 OT 보안 분석가가 필요합니다. 에이전트가 초안을 작성하고, 분석가가 최종 결정합니다. 이 논문의 증거 아티팩트는 NERC CIP를 위해 작성되었습니다. 공장은 자체 보안 표준과 고객의 감사 질문을 그곳에 넣고, 일방향으로 감시되고 기록으로 입증되는 도구 및 시설 네트워크의 형태가 이어집니다.

대용량 탱크 판독값 실패 시 경고

Loop Integrity Watch는 대형 화학 물질 또는 가스 야드와 연료 터미널이 공유하는 질문에 답합니다. 즉, 중앙 호스트로 도착하는 레벨 판독값이 연속적이고 왜곡되지 않았으며 올바른 탱크에 귀속되는지 여부입니다. 이 논문 자체의 틀은 공장 시설팀이 알 만한 실패 사례를 명명합니다. 평탄화된 게이지는 그럴듯한 낮은 레벨로 읽히고, 교체된 게이지는 두 탱크가 정체성을 바꾸게 합니다. 이 설계는 3개의 Modbus RTU 루프에 걸쳐 13개의 연료 탱크를 다루며, 폭발 방지 접합 상자 내부에서 측정 신호 측정을 통해 엔지니어링된 3개의 부스터 설치를 포함하고, 연료 탱크를 초점 객체로 하는 2개의 명명된 소스 시스템으로부터 1개의 통합 어댑터 패밀리를 거쳐 연결되는 15개의 유형화된 객체의 통제된 인벤토리 온톨로지를 다룹니다. 모델 레지스트리는 비어 있습니다. 모든 무결성 점검(고착 값, 교체, 왜곡)은 결정론적입니다. 컴퓨팅은 운영자 자체 현장 애플리케이션 서버의 두 컨테이너에서 이루어지며, 이는 OT 경계 내부에 위치하고, 모든 데이터 품질 이벤트는 명명된 사람에 의해 인지되고 해결되며, 현장 엔지니어가 수락 서명을 합니다.

화재 및 생명 안전, 읽기 전용

Factory Fire Watch는 운영자가 가장 위험하다고 판단하는 공장 전반에 걸쳐 화재 경보 패널, 화재 펌프, 소방용 물탱크 및 에너지 미터의 실시간 읽기 전용 가시성을 제공합니다. 이 시스템은 패널 접점(panel contacts), PLC 입력(PLC inputs) 및 사우디아라비아에 호스팅된 IoT 플랫폼을 통해 LoRaWAN으로 데이터를 수신하며, 인증된 생명 안전 장비에는 쓰기 경로(write path)가 절대 없습니다. 객체 모델(object model)은 모니터링 지점을 초점 객체로 하여 14개의 유형화된 객체와 12개의 링크를 보유합니다. 이 단일 모델인 IBM Granite Tiny Time Mixers (TTM-R2)는 약 0.85백만 개의 파라미터를 가지며, 플랫폼 내부의 CPU에서 실행되고 안전 경로에서의 임계값 평가는 규칙 논리(rule logic)입니다. 서버나 GPU를 구매할 필요가 없습니다. 공장당 현장 장비 비용은 목록 가격으로 약 2,600달러에서 3,200달러이며, 모니터링 담당자는 모든 안전 중요 경보를 인지하거나 에스컬레이션합니다. 이 논문의 틀(framing)은 반도체 공장에 적합한데, 센서가 보고하는 것을 중단해도 여전히 정상으로 읽히기 때문에 최악의 실패 모드는 안전처럼 보이는 침묵입니다. 공장과 그 화재 펌프 및 물 비축분을 위한 설계는 사이트 이름만 바꾼 동일한 읽기 전용 시스템입니다.

장비 근처에 있는 사람들, 공장이 소유한 영상 기록

Pit Camera Watch는 차량 시험장용 완전 온프레미스(on-premises) 카메라 시스템입니다. 새로운 지하 싱글 모드 광섬유에 40개에서 60개의 고정식 열화상 및 가시광 카메라 헤드가 설치되며, 80개에서 120개의 스트림을 지원하고, 격리된 네트워크 내의 로컬 디스크에 30일간의 영상을 저장하는 Frigate NVR을 실행하는 N+1 레코더 쌍에 기록됩니다. 이 시스템의 인간 규칙(human rule)은 EHS 사무실이 가장 선호할 만한 보수적인 방식입니다. 부스 운영자가 감시하고 결정하며, 자동 경보가 울리는 일은 없고 안전 관리실만이 클립을 내보낼 수 있습니다. D-FINE이라는 모델은 Apache-2.0 라이선스로 제공되며, 가중치(weights)는 약 8~124 MB입니다. 이 모델은 조건화된 서버실의 각 레코더 호스트에 장착된 48 GB L40S급 카드에서 테스트 차량, 지원 차량 또는 보행자를 사후적으로 검색하며, 폴(poles)에는 카메라가 없습니다. 두 가지 선택지 모두 미국 공장으로 바로 연결됩니다. 섹션 889 공급망 심사는 모든 구매 이전에 이루어지며, 카메라 가동 시간은 최우선 수용 기준 지표입니다. 이 시스템을 3년 이상 소유하는 데 드는 비용은 주로 카메라 헤드에 대한 것으로 약 474,000달러에서 871,000달러이며, 폴 개수와 관계없이 카메라당 라이선스 비용은 없습니다.

사고 발생 전 (Incidents before they happen)

Sovereign HSE Watch는 SAP EHS, PM 및 QM, SCADA, 화재 및 가스 감지 시스템, Vision AI 카메라, SQL 데이터베이스, 스캔 파일, 그리고 신원 제공자(identity provider) 8개 시스템을 결합하여 건강, 안전 및 환경 사고를 예측합니다. 이 시스템의 12가지 유형 객체에는 HSE 사고, 아차사고 보고서(near miss report), 시정 조치(corrective action), 센서 판독값(sensor reading), 이상 이벤트(anomaly event) 및 에이전트 권장 사항이 포함됩니다. 이는 독성 및 자발화 가스 시스템을 갖춘 팹(fab)의 EHS 팀이 이미 종이에 그리고 별도의 도구에서 관리하던 형태입니다. 이 작업을 수행하는 6개의 자체 호스팅 오픈 웨이트 모델에는 추론을 위한 GLM 5.3, 예측을 위한 Chronos-2, 비전을 위한 RF-DETR, 검색을 위한 BGE-M3, 스캔을 위한 PaddleOCR-VL 1.6이 포함되며, 이 중 GLM 5.3은 8개의 141 GB HBM급 GPU 노드 중 하나에 FP8로 탑재됩니다(가중치 753 GB, 여유 공간 포함 시 904 GB). 모든 권장 사항은 지정된 사람에 의해 승인되거나 거부되며, 장비에서는 아무것도 실행되지 않습니다. 이 논문은 파키스탄을 위해 작성되었기 때문에 수출 허가 게이트는 미국 내 팹에는 적용되지 않지만, 시스템 크기 계산과 인간의 규칙은 적용됩니다.

건물에서 나가는 것 세기

Steel Count Ledger는 모든 설치 지점에 IP66 HDR 카메라와 밀봉된 GPU 산업용 PC를 배치하고, 제품이 만들어지는 대로 개수를 세며, 이 개수들을 단방향 링크를 통해 권한 주체가 소유하는 하나의 기록으로 게시합니다. 계수는 에지(edge)에서 발생하기 때문에 느린 광역 링크에도 살아남으며, 트래커 모델들은 한 품목이 두 번 카운트되는 것을 방지하고, 계측용 저울(weighbridge) 피드는 수락된 진실값(acceptance ground truth) 역할을 합니다. 이 시스템에는 세 가지 자체 호스팅 오픈 모델이 사용됩니다: 제품 유형 및 제철소별로 미세 조정된 RF-DETR을 이용한 탐지(detection), 카메라 필드 전반에 걸친 식별을 위한 Roboflow 트래커, 그리고 규정 준수 작업 표면용 GLM 5.3입니다. 모든 불일치 사례는 지정된 수익 부서 담당자(revenue field officer)가 판단합니다. 이 시스템은 계수를 세고 조정할 뿐, 절대 평가하지 않으며, 제철소 측에서는 카운트를 수정할 수 없습니다. 논문은 또한 손익분기점(break even)을 명시합니다: 가장 저렴한 폐쇄형 모델은 약 33명의 사용자에서 소유 노드와 일치하며, 그 이상에서는 소유하는 것이 더 저렴합니다. 동일한 패턴으로 이 시스템은 포장 및 테스트 공장의 출하 도크에서 트레이(trays), 릴(reels) 또는 박스(boxes)의 개수를 제조 실행 시스템(manufacturing execution system)이 선적했다고 보고하는 것과 비교하여 계수하며, 탐지기는 논문에서 설명된 대로 제품 유형 및 현장별로 미세 조정됩니다.

기록들이 이미 증명하는 것들

Reliability Atlas는 센서를 구매하기 전에 읽어야 할 설계입니다. 이 시스템은 각 공장의 작업 지시서, 고장 기록, 설계 문서를 3개의 읽기 전용 어댑터를 통해, 라이브 인터페이스가 아닌 내보내기(export) 형태로, 운영자가 소유하는 13가지 유형의 객체로 구성된 신뢰성 객체 모델에 통합합니다. 이 객체들 중에는 장비(equipment), 고장 모드(failure mode), 가동 중단 이벤트(downtime event), 중요도 지수(criticality index), 그리고 예비 부품(spare part)이 포함됩니다. 가용성(Availability)은 각 공장의 자체 고장 연구를 기반으로 구축된 신뢰성 블록 다이어그램(reliability block diagrams)에 대한 몬테카를로 시뮬레이션(Monte Carlo simulation)을 통해 계산되며, 이는 ISO 55000에 따라 감사 가능하고, 예측은 지정된 검토자(named reviewer)만이 승인하며, 근본 원인 보고서(root cause reports)는 지정된 엔지니어(named engineer)만이 검증합니다. 모델 등록부(model register)는 설계상 비어 있으며, 하드웨어는 구매되지 않고, 연구는 운영자가 자국에 보유한 서버에서 실행됩니다. 유지보수 시스템과 수년간의 시설 가동 중단 기록을 가진 공장은 이 연구를 먼저 실행하여 위에 제시된 여러 설계 중 어떤 것을 필요로 하는지 결정할 수 있습니다.

그 모든 것들이 일관되게 유지하는 것들

아홉 가지 모두에 걸쳐 네 가지는 변하지 않습니다. 시스템은 운영자가 통제하는 하드웨어 또는 운영자가 선택한 클라우드나 리전에서 실행됩니다. 모든 결정은 지정된 사람이 소유하며, 장비 위에서는 아무것도 실행되지 않습니다. 객체 모델은 hyper-ontology/1 형식의 JSON으로 게시되어, 공장은 자체 설계를 구축하기 전에 정확한 객체와 링크를 읽을 수 있습니다. 그리고 비용은 논문 자체의 크기 산정부터 언급된 모든 가격과 함께 모든 부록에서 동일하게 계산되므로, 소유할지 임대할지에 대한 질문은 구호가 아니라 설계마다 하나의 답변을 가지게 됩니다. 설계 간 비교는 GPUs 소유 vs 임대를 참고하십시오.

첫 번째 반도체 설계가 명시해야 할 것들