- LLM으로 내 소프트웨어를 계속 개선해 가려면 어떤 루프가 필요할까?
내가 굴리는 프로젝트를 LLM에 묶어 스스로 나아지는 루프로 만들 수 있을지, 생각하며 정리하고 있는 지금의 가설.
- AI가 짠 펌웨어: 어디까지 맡기고 어디서 막을까
3-Tier Trust로 PR을 나누고, 머지까지 검증 게이트(spec, TDD, RAG, HIL, 결정론적 분석기 등)를 거치게 했다. 단계마다 잡아내는 결함 클래스가 다르다.
- AI가 짠 펌웨어: 233개 테스트로 격차를 재 보다
233개 임베디드 펌웨어 케이스에서 Sonnet 4.6은 68.0%, Haiku 4.5는 56.9%를 받았다. 직접 만든 오픈소스 벤치마크 EmbedEval로, 5단계 평가, n=3, Wilson 95% CI, Zephyr와 STM32 HAL을 다룬다.
- AI가 짠 펌웨어: 함수 밖에서 깨지는 것
AI가 짠 펌웨어는 함수 하나만 봐서는 보이지 않는 곳에서 깨진다. diff에서 잡히는 3가지가 있고, 49일 뒤에야 드러나는 3가지가 있다.
- AI가 짠 펌웨어: 내가 말하지 않은 것
주니어가 AI 도구로 짠 로깅 데몬이 내 리뷰를 통과했다. 컴파일도 되고 잘 돌았지만, 잦은 write가 결국 eMMC를 망가뜨렸다. 위험은 프롬프트에 말하지 않은 도메인 지식에 있었다.
- 임베디드에서 AI Agents: 컨텍스트 엔지니어링을 익히며
AI 에이전트는 Yocto 레시피를 잘 썼지만 센서 데이터를 조용히 깨뜨리고 SPI 레지스터를 잘못 설정했다. 이걸 고친 건 내가 에이전트에게 건넨 컨텍스트였다.