OpenAI Explores Legal Action Against Apple
OpenAI๊ฐ Apple๊ณผ์ ChatGPT ํตํฉ ํํธ๋์ญ์ ๋ถ๋ง์ ํ๊ณ ๋ฒ์ ๋์์ ๊ฒํ ์ค์ด๋ผ๊ณ Bloomberg๊ฐ ๋ณด๋ํ๋ค. OpenAI๋ ์ธ๋ถ ๋ฒ๋ฌด๋ฒ์ธ์ ์ ์ํด ๊ณ์ฝ ์๋ฐ ํต์ง ๋ฐ์ก์ ํฌํจํ ์ต์ ์ ๊ฒํ ํ๊ณ ์์ผ๋ฉฐ, ์ฆ๊ฐ์ ์ธ ์์ก๋ณด๋ค ํ์ ์๋ฐ ์๋จ์ผ๋ก ํ์ฉํ ๊ฐ๋ฅ์ฑ์ด ํฌ๋ค. ๋ ํ์ฌ๋ 2024๋ 6์ WWDC์์ ChatGPT๋ฅผ Siri ๋ฐ Visual Intelligence ๊ธฐ๋ฅ์ ํตํฉํ๋ ํํธ๋์ญ์ ๋ฐํํ๋ค. OpenAI๋ ํตํฉ์ด ์ฌ์ฉ์๊ฐ ์ฐพ๊ธฐ ์ด๋ ค์ด ์์น์ ๋ฌปํ ์๊ณ ์ค์ ๊ตฌ๋ ์ ์ ์ ๊ณผ ์์ต์ด ์์์น์ ํฌ๊ฒ ๋ชป ๋ฏธ์น๋ค๊ณ ์ฃผ์ฅํ๋ค. Apple ์ธก์ OpenAI์ ๊ฐ์ธ์ ๋ณด๋ณดํธ ๊ธฐ์ค์ ๋ํ ์ฐ๋ ค์, Jony Ive ์ ์์๋์์ด๋๊ฐ ์ฃผ๋ํ๋ OpenAI์ ํ๋์จ์ด ์ง์ถ์ ๋ถ์พ๊ฐ์ ํ๋ช ํ ๊ฒ์ผ๋ก ์ ํด์ง๋ค. Google์ ์ด๋ฏธ Apple Intelligence ์ฐจ์ธ๋ ๋ฒ์ ์ Gemini ๋ชจ๋ธ๋ก ๊ตฌ๋ํ๋ ๋ฉํฐ์ฐ๋ ๊ณ์ฝ์ ์ฒด๊ฒฐํด ChatGPT๋ฅผ ๋์ฒดํ ์ ์๋ ์์น๋ฅผ ํ๋ณดํ๋ค. OpenAI๋ Elon Musk์์ ์ฌํ๋ ์งํ ์ค์ด์ด์ ๋ฒ์ ๋ฆฌ์คํฌ๊ฐ ์ฌ๋ฌ ๋ฐฉํฅ์ผ๋ก ๋์ ๋๊ณ ์๋ค.
์๋ฌธ ๋ณด๊ธฐ โMicrosoft is quietly shopping for an OpenAI replacement
๋ง์ดํฌ๋ก์ํํธ๊ฐ OpenAI ์์กด๋๋ฅผ ์ค์ด๊ธฐ ์ํด AI ์คํํธ์ ์ธ์ยทํํธ๋์ญ์ ๋น๋ฐ๋ฆฌ์ ํ์งํ๊ณ ์๋ค๊ณ ๋ก์ดํฐ๊ฐ ์ฌ์์ ์๋ 5๋ช ์ ์์ํต์ ์ธ์ฉํด ๋ณด๋ํ๋ค. ์ด ์ ๋ต์ ์ด๊ด์ Mustafa Suleyman์ด๋ค. ์ฌ๋ด ์ฝ๋ ์์ฑ ์คํํธ์ Cursor ์ธ์๋ฅผ ๊ฒํ ํ์ผ๋, GitHub Copilot๊ณผ์ ๊ท์ ์ถฉ๋์ ์ฐ๋ คํด ์์ง ์ฒ ์ํ๋ค. ์งํ Elon Musk์ SpaceX-xAI ํฉ๋ณ ๋ฒ์ธ์ด 600์ต ๋ฌ๋ฌ ๊ท๋ชจ Cursor ์ต์ ์ 100์ต ๋ฌ๋ฌ ์์ฝ๊ธ์ ๋ถ์ฌ ์ฒด๊ฒฐํ๋ค. ํ์ฌ ํ์ ์ค์ธ ๊ณณ์ ์คํ ํผ๋ ๊ต์ Stefano Ermon์ด ์ฐฝ์ ํ ํฐ๋ฌ์จํ ์คํํธ์ Inception์ด๋ค. Inception์ ํ ํฐ์ ๋ณ๋ ฌ ์ฒ๋ฆฌํ๋ ํ์ฐ ๊ธฐ๋ฐ(diffusion-based) ์ธ์ด ๋ชจ๋ธ์ ๊ฐ๋ฐ ์ค์ด๋ฉฐ, ์ด๋น 1,000ํ ํฐ ์ด์์ ๋ธ๋ค๊ณ ์ฃผ์ฅํ๋ค. ๋ง์ดํฌ๋ก์ํํธ M12 ํ๋๋ ์ง๋ํด 11์ Inception์ 5,000๋ง ๋ฌ๋ฌ ๋ผ์ด๋์ ์ด๋ฏธ ์ฐธ์ฌํ์ผ๋ฉฐ, ํ์ฌ ๋ ํฐ ๊ท๋ชจ์ ๋์ด ๋ ผ์ ์ค์ด๋ค. Suleyman์ MAI ์ํผ์ธํ ๋ฆฌ์ ์ค ํ์ 4์ ์ฒซ ํ์ด๋ฐ์ด์ ๋ชจ๋ธ 3์ข (MAI-Transcribe-1, MAI-Voice-1, MAI-Image-2)์ ์ถ์ํ๊ณ , ๋ฒ์ฉ LLM์ 2027๋ ์ด ๋ชฉํ๋ค. ์ด ๋ชจ๋ ์์ง์์ ์ง์ ์ ๊ณ๊ธฐ๋ 4์ 27์ผ OpenAI์ ์ฒด๊ฒฐํ ๊ณ์ฝ ์์ ์์ด๋ค. ์์ ์์ผ๋ก OpenAI ๋ ์ ๋ผ์ด์ ์ค๊ฐ ํด์ ๋๊ณ OpenAI๋ AWS ๋ฑ ํ ํด๋ผ์ฐ๋์๋ ์์ ๋กญ๊ฒ ์๋น์ค๋ฅผ ํ๋งคํ ์ ์๊ฒ ๋๋ค. ๋ง์ดํฌ๋ก์ํํธ๋ 2032๋ ๊น์ง IP ๋ผ์ด์ ์ค, ์ฝ 1,350์ต ๋ฌ๋ฌ ๊ท๋ชจ๋ก ํ๊ฐ๋ 27% ์ง๋ถ, Azure ์ฐ์ ๋ฐฐํฌ ์กฐํญ์ ์ ์งํ๋ค.
์๋ฌธ ๋ณด๊ธฐ โElon Musk's SpaceXAI has been bleeding staff since its merger
Elon Musk์ SpaceXAI๊ฐ ์ฌํด 2์ ํฉ๋ณ ์ดํ ์ฐ๊ตฌ์ยท์์ง๋์ด 50๋ช ์ด์์ ์์๋ค๊ณ The Information์ด ๋ณด๋ํ๋ค. ์ดํ์ ์ค์๋ ์ฝ๋ฉ, ์๋ ๋ชจ๋ธ, Grok ์์ฑ ๋ฑ ํต์ฌ ๋ถ์ผ ๋ฆฌ๋๋ค์ด ํฌํจ๋์ผ๋ฉฐ, ์ต์ 11๋ช ์ Meta๋ก, 7๋ช ์ด์์ Mira Murati๊ฐ ์ด๋๋ Thinking Machines Lab์ผ๋ก ์ด์งํ ๊ฒ์ผ๋ก ์๋ ค์ก๋ค. ํนํ ์ฌ์ ํ์ต(pre-training) ํ ๋ฆฌ๋ Juntang Zhuang ํด์ฌ ์ดํ ํ ์ ๋ฐ์ด ํฌ๊ฒ ์ค์ด ์์๋ง ๋จ์ ์ํ๋ก, ์ฌ์ ํ์ต์ ์ AI ๋ชจ๋ธ์ ๊ตฌ์ถํ๋ ์ฒซ ๋จ๊ณ์ธ ๋งํผ SpaceXAI์ ์ต์ฒจ๋จ ๋ชจ๋ธ ๊ฐ๋ฐ ์ง์ ์์ง์ ์๋ฌธ์ด ์ ๊ธฐ๋๊ณ ์๋ค. ์ดํ ์์ธ์ผ๋ก๋ Musk ํน์ ์ ๊ทน๋จ์ ์ ๋ฌด ๋ฌธํ๊ฐ ๊ผฝํ๋ค. ๋ด๋ถ ์์ํต์ ๋นํ์ค์ ์ธ ๋ชจ๋ธ ํ์ต ๋ง๊ฐ ๊ธฐํ์ด Grok ๊ฐ๋ฐ ๊ณผ์ ์์ ์ง๋ฆ๊ธธ ์ ํ์ผ๋ก ์ด์ด์ก๋ค๊ณ ์ ํ๋ค. ํํธ SpaceX๊ฐ ์ ๊ธฐ ์ฃผ์ ์๋(tender) ํ๋ก๊ทธ๋จ์ ์ด์ํด ์ง์๋ค์ด ์ง๋ถ์ ํ๊ธํํ ์ ์๊ณ , IPO ๊ธฐ๋๊ฐ๋ ๋์์ง ์ํฉ์์ ๋์ ์ ๋ฌด ์๋ฐ์ ๊ฐ์ํ ์ ์ธ์ด ์ค์๋ค๋ ์ฌ์ ์ ๋๊ธฐ๋ ๊ฑฐ๋ก ๋๋ค.
์๋ฌธ ๋ณด๊ธฐ โ2028: Two scenarios for global AI leadership
Anthropic์ด 2028๋ ๋ฏธ์ค AI ๊ฒฝ์์ ๋ ๊ฐ์ง ์๋๋ฆฌ์ค๋ฅผ ๋ด์ ์ ์ฑ ๋ณด๊ณ ์๋ฅผ ๊ณต๊ฐํ๋ค. ํ์ฌ ๋ฏธ๊ตญ์ ์๊ตญ ๊ธฐ์ ์ด ์ค๊ณํ ์ฒจ๋จ ๋ฐ๋์ฒด ์์ถ ํต์ ๋ฅผ ํตํด ์ปดํจํธ(AI ํ์ต์ฉ ์นฉ) ๊ณต๊ธ์์ ์ค๊ตญ์ ์๋ํ๊ณ ์๋ค. ๊ทธ๋ฌ๋ ์ค๊ตญ AI ์ฐ๊ตฌ์๋ค์ ์์ถํต์ ์ ํ์ ์ ์ด์ฉํ๊ณ , ๋ฏธ๊ตญ ๋ชจ๋ธ์ ํ์ ์ ๋ถ๋ฒ์ผ๋ก ์ถ์ถํ๋ ๋๊ท๋ชจ ์ฆ๋ฅ ๊ณต๊ฒฉ(distillation attack)์ ํตํด ํ๋ฐํฐ์ด์ ๊ทผ์ ํด ์๋ค. ์ฒซ ๋ฒ์งธ ์๋๋ฆฌ์ค๋ ๋ฏธ๊ตญ์ด ์ปดํจํธ ์ฐ์๋ฅผ ๋ฐฉ์ดํ ์ธ๊ณ๋ค. ์์ถํต์ ๊ฐํ, ์ฆ๋ฅ ๊ณต๊ฒฉ ์ฐจ๋จ, ๋ฏผ์ฃผ์ฃผ์ ์ง์์ AI ๋์ ๊ฐ์์ ํตํด ๋ฏผ์ฃผ์ฃผ์ ๊ตญ๊ฐ๋ค์ด AI ๊ท๋ฒ๊ณผ ์ง์๋ฅผ ์ฃผ๋ํ๋ฉฐ, ์ค๊ตญ๊ณผ์ AI ์์ ํ๋ ฅ๋ ๋ ํจ๊ณผ์ ์ผ๋ก ์ถ์งํ ์ ์๋ค๊ณ ๋ณธ๋ค. ๋ ๋ฒ์งธ ์๋๋ฆฌ์ค๋ ๋ฏธ๊ตญ์ด ํ๋์ ๋์์ง ์์ ์ธ๊ณ๋ค. ์ค๊ตญ๊ณต์ฐ๋น(CCP)์ด ํ๋ฐํฐ์ด์ ๊ทผ์ ํ๊ฑฐ๋ ์ถ์ํ๊ณ , AI ๊ท๋ฒ์ ๊ถ์์ฃผ์ ์ ๊ถ์ด ์ค๊ณํ๊ฒ ๋๋ฉฐ AI ๊ธฐ๋ฐ ๋๊ท๋ชจ ์๋ฏผ ์ต์์ด ํ์คํ๋๋ค. Anthropic์ ์ฆ๊ฐ์ ์ธ ์ ์ฑ ํ๋์ผ๋ก 2028๋ ๊น์ง 12~24๊ฐ์์ ํ๋ฐํฐ์ด ๊ฒฉ์ฐจ๋ฅผ ํ๋ณดํ ์ ์๋ค๊ณ ์ฃผ์ฅํ๋ฉฐ, ์ด ๊ธฐํ์ ์ฐฝ์ด ์ค๋ ์ด๋ ค ์์ง ์์ ๊ฒ์ด๋ผ๊ณ ๊ฒฝ๊ณ ํ๋ค.
์๋ฌธ ๋ณด๊ธฐ โIntroducing Grok Build
xAI๊ฐ ํฐ๋ฏธ๋์์ ์คํ๋๋ ์ฝ๋ฉ ์์ด์ ํธ 'Grok Build'๋ฅผ SuperGrok Heavy ๊ตฌ๋ ์๋ฅผ ๋์์ผ๋ก ์กฐ๊ธฐ ๋ฒ ํ๋ก ์ถ์ํ๋ค. Claude CodeยทCodex CLI ๋ฑ ๊ธฐ์กด ํฐ๋ฏธ๋ ์์ด์ ํธ์ ์ง์ ๊ฒฝ์ํ๋ ๊ตฌ๋๋ก, AGENTS.mdยทํ๋ฌ๊ทธ์ธยทํ ยท์คํฌยทMCP ์๋ฒ๋ฅผ ์ฆ์ ์ฌ์ฉ ๊ฐ๋ฅํ ํํ๋ก ๊ธฐ๋ณธ ์ง์ํ๋ค. ๋๊ท๋ชจ ์์ ๋ถ์ฐ์ ์ํ ์๋ธ์์ด์ ํธ ๊ธฐ๋ฅ๋ ๋ด์ฅ๋์ผ๋ฉฐ, ๊ฐ ์๋ธ์์ด์ ํธ๊ฐ ๋ ๋ฆฝ๋ ์ํฌํธ๋ฆฌ์์ ๋ณ๋ ฌ ์คํ๋๋ ๋ฅ ์ํฌํธ๋ฆฌ ํตํฉ์ ์ง์ํ๋ค. ํค๋๋ฆฌ์ค ๋ชจ๋๋ฅผ ํตํด ์์ด์ ํธ๋ฅผ ํ๋ก๊ทธ๋๋ฐ ๋ฐฉ์์ผ๋ก ๊ตฌ๋ํ ์ ์์ด ์๋ํ ํ์ดํ๋ผ์ธ ์ฐ๋์๋ ์ ํฉํ๋ค.
์๋ฌธ ๋ณด๊ธฐ โCodex is getting easier to automate and customize around your code
OpenAI๊ฐ ์ฝ๋ฉ AI์ธ Codex์ ํ (hook)๊ณผ ํ๋ก๊ทธ๋๋งคํฑ ์ก์ธ์ค ํ ํฐ ๊ธฐ๋ฅ์ ์ถ๊ฐํ๋ค. ํ ์ ์์ ๋ฃจํ์ ํต์ฌ ์์ ์ ์คํ๋๋ ์คํฌ๋ฆฝํธ๋ก, ์์ ์ ํ ์ ํจ์ฑ ๊ฒ์ฌ ์คํยทํ๋กฌํํธ ๋ด ๋ฏผ๊ฐ ์ ๋ณด ์ค์บยท๋ด๋ถ ์์คํ ๋ํ ๋ก๊น ยท์ ์ฅ์ ๋๋ ๋๋ ํฐ๋ฆฌ๋ณ ๋์ ์ปค์คํฐ๋ง์ด์ง ๋ฑ์ ํ์ฉํ ์ ์๋ค. ํ๋ก๊ทธ๋๋งคํฑ ์ก์ธ์ค ํ ํฐ์ BusinessยทEnterprise ํ์ ์ํ ๋ฒ์ ์ง์ ์๊ฒฉ์ฆ๋ช ์ผ๋ก, CI ํ์ดํ๋ผ์ธยท๋ฆด๋ฆฌ์ค ์ํฌํ๋ก์ฐยท๋ด๋ถ ์๋ํ์ ์ฐ๋ํ ์ ์์ผ๋ฉฐ ChatGPT ์ํฌ์คํ์ด์ค ์ค์ ์์ ์์ฑํ๋ค. ํ ํฐ ๋ง๋ฃ ์ค์ ๋ฐ ์ ๊ทผ ์ทจ์๊ฐ ๊ฐ๋ฅํ๋ฉฐ ์ฌ์ฉ ์ด๋ ฅ์ ์ํฌ์คํ์ด์ค์ ์ฐ๋๋์ด ์ถ์ ๋๋ค.
์๋ฌธ ๋ณด๊ธฐ โRaindrop Workshop
Raindrop Workshop์ AI ์์ด์ ํธ ๊ฐ๋ฐ์๋ฅผ ์ํ ๋ก์ปฌ ๋๋ฒ๊น ๋๊ตฌ๋ก, ์์ด์ ํธ๊ฐ ์คํ๋๋ ์๊ฐ ๋ชจ๋ ํ ํฐ ์์ฑยท๋๊ตฌ ํธ์ถยท์์ฌ๊ฒฐ์ ๊ณผ์ ์ ์ค์๊ฐ ์คํธ๋ฆฌ๋ฐ์ผ๋ก ์๊ฐํํ๋ค. ํต์ฌ ๊ธฐ๋ฅ์ Claude Code์์ ํตํฉ์ผ๋ก, Claude๊ฐ ํธ๋ ์ด์ค๋ฅผ ์ฝ๊ณ ์ฝ๋๋ฒ ์ด์ค์ ๋ง๋ ํ๊ฐ(eval)๋ฅผ ์์ฑํ๋ฉฐ ์ค๋ฅ๋ฅผ ์๋ ์์ ํ๋ค. '์๊ฐ ์๋ณต eval ๋ฃจํ(self-healing eval loop)'๋ Claude๊ฐ eval์ ์์ฑํ๊ณ , ์์ด์ ํธ๋ฅผ ์คํํ๊ณ , ์คํจ๋ฅผ ํ์ธํ๊ณ , ์ฝ๋๋ฅผ ์์ ํ ๋ค ๋ชจ๋ ๋จ์ธ(assertion)์ด ํต๊ณผ๋ ๋๊น์ง ์๋ ๋ฐ๋ณตํ๋ ์ฌ์ดํด์ด๋ค. ์ถ๊ฐ๋ก `/setup-agent-replay` ๋ช ๋ น์ผ๋ก ํ๋ก๋์ ํธ๋ ์ด์ค๋ฅผ ์ค์ ์์ด์ ํธ ์ฝ๋์ ์ฌํํ๋ HTTP ์๋ํฌ์ธํธ๋ฅผ ์ค์บํด๋ฉํ ์ ์๋ค. TypeScriptยทPythonยทGoยทRust๋ฅผ ์ง์ํ๋ฉฐ, Vercel AI SDKยทOpenAI Agents SDKยทAnthropic SDKยทLangChainยทLangGraphยทCrewAI ๋ฑ ์ฃผ์ SDK์ AWS BedrockยทAzure OpenAIยทVertex AI ํด๋ผ์ฐ๋ ํ๋ก๋ฐ์ด๋, Claude CodeยทCodexยทDevinยทCursor ๋ฑ ์ฝ๋ฉ ์์ด์ ํธ์ ํธํ๋๋ค. MIT ๋ผ์ด์ ์ค ์คํ์์ค๋ก, curl ํ ์ค ๋๋ ์์ค ๋น๋ ๋ฐฉ์์ผ๋ก ์ค์นํ๋ค.
์๋ฌธ ๋ณด๊ธฐ โGenkit Middleware
Google์ด ์คํ์์ค AI ํ๋ ์์ํฌ Genkit์ ๋ฏธ๋ค์จ์ด ์์คํ ์ ๋์ ํ๋ค. ์ด ์์คํ ์ `generate()` ํธ์ถ์ ๊ฐ๋ก์ฑ์ด ์ปค์คํ ๋์์ ์ฃผ์ ํ๋ ์ปดํฌ์ ๋ธ ํ (composable hook) ๊ตฌ์กฐ๋ฅผ ์ฑํํ๋ฉฐ, Generate(๋ฃจํ ๋ฐ๋ณต๋น 1ํ)ยทModel(๋ชจ๋ธ API ํธ์ถ๋น 1ํ)ยทTool(๋๊ตฌ ์คํ๋น 1ํ) ์ธ ๊ณ์ธต์ ํ ์ ์ฐ๊ฒฐํ๋ค. ์ฌ์ ๊ตฌ์ถ๋ ๋ฏธ๋ค์จ์ด๋ ๋ค์ฏ ๊ฐ์ง๋ค. Retry๋ ์ง์ ๋ฐฑ์คํ(exponential backoff)์ ์งํฐ(jitter)๋ฅผ ์ ์ฉํด ์ผ์์ ์ค๋ฅ๋ฅผ ์ฒ๋ฆฌํ๊ณ , Fallback์ ๊ธฐ๋ณธ ๋ชจ๋ธ ์คํจ ์ ๋ค๋ฅธ ํ๋ก๋ฐ์ด๋๋ก ์๋ ์ ํํ๋ค. Tool Approval์ ํ์ฉ ๋ชฉ๋ก์ ์๋ ๋๊ตฌ ํธ์ถ ์ ์ธํฐ๋ฝํธ๋ฅผ ๋ฐ์์์ผ ํ๊ดด์ ์์ ์ ์ฌ๋์ ํ์ธ์ ์๊ตฌํ๋ ์ธ๊ฐ-๋ฃจํ(human-in-the-loop) ํจํด์ ๊ตฌํํ๋ค. Skills๋ ๋๋ ํ ๋ฆฌ์ SKILL.md ํ์ผ์ ์ค์บํด ์์คํ ํ๋กฌํํธ์ ์ฃผ์ ํ๊ณ , Filesystem์ ๋ชจ๋ธ์ ๋ฒ์๊ฐ ์ ํ๋ ๋ก์ปฌ ํ์ผ์์คํ ์ ๊ทผ ๋๊ตฌ๋ฅผ ์ ๊ณตํ๋ค. ์ปค์คํ ๋ฏธ๋ค์จ์ด ์์ฑ๋ ์ง์ํ๋ฉฐ, ๋ฏธ๋ค์จ์ด๋ ์ขโ์ฐ ์์๋ก ์ค์ฒฉ ๊ฐ๋ฅํ๋ค. ํ์ฌ TypeScriptยทGoยทDart์์ ์ฌ์ฉ ๊ฐ๋ฅํ๋ฉฐ Python ์ง์์ ์์ ๋์ด ์๋ค.
์๋ฌธ ๋ณด๊ธฐ โCloud Agent Development Environments
Cursor๊ฐ ์์จ ์ฝ๋ฉ ์์ด์ ํธ๋ฅผ ์ํ ํด๋ผ์ฐ๋ ๊ธฐ๋ฐ ๊ฐ๋ฐํ๊ฒฝ ๊ตฌ์ฑ ๋๊ตฌ๋ฅผ ๊ณต๊ฐํ๋ค. ํต์ฌ ๊ธฐ๋ฅ์ ๋ค ๊ฐ์ง๋ค. ์ฒซ์งธ, ๋ฉํฐ ๋ ํฌ ํ๊ฒฝ ์ง์์ผ๋ก ์์ด์ ํธ๊ฐ ์ฌ๋ฌ ๋ฆฌํฌ์งํ ๋ฆฌ์ ๊ฑธ์ณ ์ฝ๋ ๋ณ๊ฒฝ์ ์ถ๋ก ยทํ ์คํธยท๊ฒ์ฆํ ์ ์๋ค. ๋์งธ, Dockerfile ๊ธฐ๋ฐ ํ๊ฒฝ ๊ตฌ์ฑ์ ์ฝ๋๋ก ๊ด๋ฆฌํ๋ฉฐ, ๋น๋ ์ํฌ๋ฆฟ๊ณผ ๋ ์ด์ด ์บ์ฑ(70% ์๋ ํฅ์)์ ์ง์ํ๋ค. ์ ์งธ, ์์ด์ ํธ๊ฐ ๋๋ฝ๋ ์๊ฒฉ์ฆ๋ช ์ ์ค์ค๋ก ๊ฐ์งํ๊ณ ํ๊ฒฝ ์ค์ ์ํ๋ฅผ ๊ฒ์ฆํ๋ ์๋ํ ์ค์ ๊ธฐ๋ฅ์ด ์ถ๊ฐ๋๋ค. ๋ท์งธ, ํ๊ฒฝ๋ณ ๋ฒ์ ์ด๋ ฅยท๋กค๋ฐฑยท๊ฐ์ฌ ๋ก๊ทธยท๋คํธ์ํฌ ์ด๊ทธ๋ ์ค ์ ํยท์ํฌ๋ฆฟ ๊ฒฉ๋ฆฌ ๋ฑ ๊ฑฐ๋ฒ๋์ค ๋ฐ ๋ณด์ ํต์ ๊ฐ ๊ฐํ๋๋ค. AmplitudeยทDecagonยทSnyk ๋ฑ ๊ธฐ์ ๊ณ ๊ฐ์ด ์ด๋ฏธ ๋ฉํฐ ๋ ํฌ ํ๊ฒฝ์ ํ์ฉํด Slack ์ด์๋ฅผ ์๋ ๋ถ์ยท์์ ํ๋ PR์ ์์ฑํ๊ณ ์๋ค. Cursor๋ ํฅํ ์ฝ๋๋ฒ ์ด์ค ๋ณํ์ ๋ง์ถฐ ํ๊ฒฝ์ด ์์จ์ ์ผ๋ก ์ ๋ฐ์ดํธ๋๋ ๋ฐฉํฅ์ ๊ฐ๋ฐ ์ค์ด๋ผ๊ณ ๋ฐํ๋ค.
์๋ฌธ ๋ณด๊ธฐ โHow We Built Secure, Scalable Agent Sandbox Infrastructure
์ฝ๋๋ฅผ ์คํํ๋ ์์ด์ ํธ๋ฅผ ์์ ํ๊ฒ ์ด์ํ๋ ์๋๋ฐ์ฑ ์ ๋ต์ผ๋ก ๋ ๊ฐ์ง ์ ๊ทผ๋ฒ์ด ์ ์๋๋ค. ์ฒซ์งธ๋ ๋๊ตฌ๋ฅผ ๊ฒฉ๋ฆฌํ๋ ๋ฐฉ์์ด๊ณ , ๋์งธ๋ ์์ด์ ํธ ์์ฒด๋ฅผ ๊ฒฉ๋ฆฌํ๋ ๋ฐฉ์์ด๋ค. ์์ด์ ํธ ๊ฒฉ๋ฆฌ ์ค๊ณ์์๋ ์์ด์ ํธ๊ฐ ํ์ทจํ ๊ฐ์น ์๋ ๋น๋ฐ ์ ๋ณด๋ ๋ณด์กดํด์ผ ํ ์ํ๋ฅผ ๋ณด์ ํ์ง ์๋๋ก ๊ตฌ์ฑํ๋ค. ๋ชจ๋ ์์ ์ ์ถ๊ฐ ๋คํธ์ํฌ ํ์ด ๋ฐ์ํ๊ณ ๋ฐฐํฌ ์๋น์ค๊ฐ ๋์ด๋๋ ๋จ์ ์ด ์์ง๋ง, ์์ด์ ํธ๋ฅผ ๋ ๋ฆฝ์ ์ผ๋ก ์ข ๋ฃยท์ฌ์์ยทํ์ฅํ ์ ์๋ค๋ ์ด์์ ์ด์ ์ด ์๋ค.
์๋ฌธ ๋ณด๊ธฐ โUnlocking asynchronicity in continuous batching
Hugging Face ์ฐ๊ตฌํ์ด LLM ์ถ๋ก ์ ์ฐ์ ๋ฐฐ์น(continuous batching) ์ฒ๋ฆฌ์์ ๋ฐ์ํ๋ CPU-GPU ์ ํด ์๊ฐ ๋ฌธ์ ๋ฅผ ๋น๋๊ธฐ ๋ฐฐ์น(asynchronous batching)๋ก ํด๊ฒฐํ๋ ๋ฐฉ๋ฒ์ ๊ณต๊ฐํ๋ค. ๋๊ธฐ ๋ฐฉ์์์๋ CPU๊ฐ ๋ฐฐ์น๋ฅผ ์ค๋นํ๋ ๋์ GPU๊ฐ ๋๊ธฐํ๊ณ , GPU๊ฐ ์์ ํ(forward pass)๋ฅผ ์ํํ๋ ๋์ CPU๊ฐ ๋๊ธฐํ๋ ๊ต๋ ๊ตฌ์กฐ๊ฐ ๋ฐ๋ณต๋๋ค. ๋ฐฐ์น ํฌ๊ธฐ 32, 8B ๋ชจ๋ธ๋ก 8K ํ ํฐ์ ์์ฑํ๋ ์คํ์์ ์ด ์ ํด ์๊ฐ์ ์ ์ฒด ๋ฐํ์์ 24%๋ฅผ ์ฐจ์งํ์ผ๋ฉฐ, GPU ๊ด์ ์์๋ 300.6์ด ์ค 228์ด๋ง ์ค์ง ์ฐ์ฐ์ ์ฌ์ฉ๋์๋ค. ๋น๋๊ธฐ ๋ฐฉ์์ CUDA ์คํธ๋ฆผ(stream)๊ณผ ์ด๋ฒคํธ(event)๋ฅผ ํ์ฉํด N๋ฒ์งธ ๋ฐฐ์น์ GPU ์ฐ์ฐ ๋์ค CPU๊ฐ N+1๋ฒ์งธ ๋ฐฐ์น๋ฅผ ์ค๋นํ๋๋ก ํจ์ผ๋ก์จ ๋ ์์์ด ๋์์ ์๋ํ๊ฒ ํ๋ค. ์ด ์ ๊ทผ๋ฒ์ ์ปค๋ ์์ ์ด๋ ๋ชจ๋ธ ๋ณ๊ฒฝ ์์ด ์์ํ ์ค์ผ์ค๋ง ์ต์ ํ๋ง์ผ๋ก ์ฝ 22%์ ์ฒ๋ฆฌ ์๋ ํฅ์์ ๋ฌ์ฑํ ์ ์์ผ๋ฉฐ, ํด๋น ๊ตฌํ์ transformers ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ์ฐ์ ๋ฐฐ์น ์ฝ๋์ ๋ฐ์๋์๋ค.
์๋ฌธ ๋ณด๊ธฐ โ