ScreenCoder:一鍵把 UI 截圖變成可編輯的 HTML/CSS,前端開發更加高效

 

如果你曾辛苦把設計稿或網頁截圖一格一格自己複製到程式碼裡,那麼由香港中文大學團隊(CUHK MMLab 與 ARISE Lab)開發的 ScreenCoder 絕對值得一看。它是一套突破傳統的視覺到程式碼生成系統,能夠把任何 UI 截圖或設計 mockup 轉換成乾淨、結構清楚、可修改的前端 HTML/CSS 程式碼

背後的技術架構採用了 模組化多智能體(modular multi-agent)設計,將整個流程拆成三個可解釋的小系統:第一個「Grounding」負責用視覺語言模型識別 UI 組件;接著由「Planning」生成分層的布局結構;最後「Generation」則根據脈絡與使用者需求生成最終的 HTML 與 CSS 程式碼。這樣的拆解方式能大幅提升排版準確度與結構正確性,優於單一黑盒模型

主要功能一覽

  • 模組式理解流程:將視覺理解、版面規劃與碼碼生成分層執行,提高生成品質與可追溯性。

  • 輸出標準且可編輯的程式碼:不只是粗糙模型,是乾淨、可維護、可直接部署的前端程式碼

  • 高度可客製化:你可以依需求微調布局比例、命名或樣式,方便整合進專案中

  • Hugging Face Demo 可試用:程式預覽可在 Hugging Face Spaces 上體驗,或自行下載程式碼在本地透過 python app.py 運行

  • 研究貢獻與推動資料生成:除了即時應用,ScreenCoder 同時具備「資料引擎」功能,可自動生成大量 UI‑code 配對,用於訓練與強化開源 VLM(視覺語言模型)。團隊也已在 Qwen2.5‑VL 等模型上進行微調與強化學習,取得明顯成果

ScreenCoder 對於快速 prototyping、UI-dev 工作流程都非常實用。想像你只要截一張設計稿(或網站畫面),按下執行,便能取得初步的 HTML + CSS 結構。接著可以快速客製化,少了從零撰寫的時間,整體開發流程更高效。

對於設計師來說,也能節省轉交開發的等待時間;而前端工程師則能直接接手乾淨的程式碼,減少溝通誤差。整體協作更順暢。

另外,如果你有對 VLM 或 AI 生成模型感興趣,這套系統同時具有推動資料集構建的能力,可用於訓練未來模型、提升識別與生成精度,是很有前瞻性的研究工具。

總結來說,ScreenCoder 不只是一套視覺轉程式碼的 AI 工具,更是結合模組化架構與高品質生成的研究實作,它有效拉近設計與開發的橋樑。對於追求效率與實用性的 Taiwan 前端社群來說,是一款讓人期待的開源神器。

課程推薦

用 AI 生成網站? AI 高效網站設計實戰課:ChatGPT X HTML X SEO

用 AI 生成網站? AI 高效網站設計實戰課:ChatGPT X HTML X SEO

利用 AI 提升網站設計效率與 SEO 排名!了解如何透過 ChatGPT 等工具快速建立 HTML 架構,優化關鍵字與用戶體驗,讓網站更具競爭力。

輸入折扣碼 TC1533SL 還可以額外獲得 NT$500 優惠喔。

AI工作術全面學習實戰營:6 堂精選課程,學會最好用 AI 工具,翻轉你的人生

AI工作術全面學習實戰營:6 堂精選課程,學會最好用 AI 工具,翻轉你的人生

《PChome雜誌》攜手 5 位在 AI 領域的專業講師,打造上述 6 堂實用課程,教你學會時下最好用的 AI 工具,導入生成式 AI 來產製工作內容,改造並升級你的工作流程。

輸入折扣碼 ZERO2024 還可以額外獲得 NT$400 優惠喔。

HTML與SEO實戰應用—並以ChatGPT助力提升網站品質與流量

HTML與SEO實戰應用—並以ChatGPT助力提升網站品質與流量

本課程專為希望深入了解 HTML 並有效結合 SEO 策略的學員設計。我們將重點放在 HTML 的深度學習與應用上,同時穿插介紹如何透過搜索引擎優化提升網站能見度。透過即時互動式的直播教學,加上 ChatGPT 的輔助,您將學習到如何建立一個結構優良、美觀且符合 SEO 標準的網站。這不僅會提升網站的用戶體驗,還會大幅提高網站的搜索引擎排名,進而增加訪客流量和潛在客戶。
用AI強化職場競爭力 ChatGPT、Midjourney從入門到精通

用AI強化職場競爭力 ChatGPT、Midjourney從入門到精通

在快速變遷的職場中,提升競爭力成為關鍵。透過引領潮流的AI技術,ChatGPT和Midjourney將助您勇攀高峰。無論您是AI新手還是專家,這個課程將引導您從入門到精通,解密AI的奧秘,並學習如何運用於職場。
GitHub Copilot AI 程式碼編輯工具應用實務班

GitHub Copilot AI 程式碼編輯工具應用實務班

讓學員瞭解有效地使用該工具來加速開發流程、提高程式碼品質和生產力。課程重點放在以 JavaScript 程式語言為例,介紹 Copilot 的基本原理、使用方法和最佳實踐。

輸入折扣碼 TC1456JA 還可以額外獲得 NT$500 優惠喔。

ChatGPT X Clipchamp AI 生成影片、配音與字幕應用實戰班

ChatGPT X Clipchamp AI 生成影片、配音與字幕應用實戰班

掌握Clipchamp AI的操作技巧,靈活運用Clipchamp AI進行影片編輯和創作,實現創意表達和傳播目的。

輸入折扣碼 TC1451JAN 還可以額外獲得 NT$500 優惠喔。

如何串接多種數位工具資訊?Looker Studio 資料視覺化實戰班|GoogleAds x FB廣告 x GA流量數據

如何串接多種數位工具資訊?Looker Studio 資料視覺化實戰班|GoogleAds x FB廣告 x GA流量數據

Looker Studio除了可協助使用者監控網站流量、廣告成效、選擇匯入資源的管道之外,還可以將數據資料多平台整合、數據報表即時更新、數據範本可重複套用的效益,透過自動化系統,將數據全部匯入同一個報表平台,是企業不可或缺的重要工具。

輸入折扣碼 TC1270JIA 還可以額外獲得 NT$500 優惠喔。

和我們交流

加入我們的社群,裡面會有一些技術的內容、有趣的技術梗,以及職缺的分享,歡迎和我們一起討論。