- Embedded Dev LLM으로 내 소프트웨어를 계속 개선해 가려면 어떤 루프가 필요할까?
내가 굴리는 프로젝트를 LLM에 묶어 자가 개선 루프로 만들 수 있을지 정리하는 중인 현재 가설.
- Embedded Dev AI가 짠 펌웨어: AI가 펌웨어를 망가뜨리지 못하게 막는 법
3-Tier Trust로 PR을 분류하고, 머지까지 검증 게이트(spec, TDD, RAG, HIL, 결정론적 분석기 등)를 거친다. 단계마다 잡는 결함 클래스가 다르다.
- Embedded Dev AI가 짠 펌웨어: 어디서 깨지나
AI가 짠 펌웨어는 예측 가능한 nonlocal 패턴으로 실패한다. Diff에서 보이는 3가지, 49일 뒤에 터지는 3가지.
- Embedded Dev AI가 짠 펌웨어: 어디까지 믿어도 될까?
LLM에게 로깅 데몬을 짜게 했다. 컴파일 OK, 동작 OK. 코드 리뷰에서 eMMC를 죽이는 고빈도 write를 발견했다. 프롬프트에 말하지 않은 도메인 지식이 진짜 위험 구간이다.