惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

大猫的无限游戏
大猫的无限游戏
Webroot Blog
Webroot Blog
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
T
Threat Research - Cisco Blogs
V2EX - 技术
V2EX - 技术
L
LINUX DO - 热门话题
Google DeepMind News
Google DeepMind News
Recorded Future
Recorded Future
S
Schneier on Security
I
InfoQ
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
The GitHub Blog
The GitHub Blog
S
Security @ Cisco Blogs
O
OpenAI News
W
WeLiveSecurity
Vercel News
Vercel News
阮一峰的网络日志
阮一峰的网络日志
Simon Willison's Weblog
Simon Willison's Weblog
人人都是产品经理
人人都是产品经理
Cloudbric
Cloudbric
The Last Watchdog
The Last Watchdog
The Hacker News
The Hacker News
Google Online Security Blog
Google Online Security Blog
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
GbyAI
GbyAI
NISL@THU
NISL@THU
T
Tailwind CSS Blog
V
Visual Studio Blog
PCI Perspectives
PCI Perspectives
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
Jina AI
Jina AI
D
DataBreaches.Net
B
Blog RSS Feed
N
News and Events Feed by Topic
N
News and Events Feed by Topic
H
Heimdal Security Blog
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
腾讯CDC
Latest news
Latest news
V
Vulnerabilities – Threatpost
Hacker News: Ask HN
Hacker News: Ask HN
WordPress大学
WordPress大学
V
V2EX
aimingoo的专栏
aimingoo的专栏
博客园 - 司徒正美
Apple Machine Learning Research
Apple Machine Learning Research
D
Darknet – Hacking Tools, Hacker News & Cyber Security
The Register - Security
The Register - Security
Help Net Security
Help Net Security

博客园 - 我才是银古

第16章:常见问题、排错与最佳实践 第15章:扩展生态、MCAD 与外部集成 第12章:实战案例:机械结构与 3D 打印零件 第14章:构建、测试、调试与贡献流程 第13章:OpenSCAD 源码架构与核心执行流程 第11章:预览、渲染、网格精度与性能优化 第09章:列表推导、递归与算法建模 第08章:参数化零件库与复用设计 第10章:导入导出、命令行与自动化 第06章:CSG 布尔建模方法 第07章:二维图形、拉伸、旋转与投影 第05章:基础几何、坐标系与变换 第04章:参数、变量、函数、模块与作用域 OpenSCAD 教程目录 第03章:OpenSCAD 语言基础 第02章:安装、环境配置与开发工作流 第01章:OpenSCAD 项目全景与学习路线 第02章:源码获取、编译与开发环境配置 第01章:OCCT项目全景与学习路线 第18章:二次开发实战与综合案例 第18章:综合实战案例 第17章:数据交换与协同 第16章:源码架构与二次开发 第15章:插件与自定义工作台开发 第14章:Python脚本宏与自动化 第13章:FEM仿真分析 第12章:CAM数控加工 第11章:SurfaceMesh与逆向工程 第10章:Draft二维绘图与BIM建筑 第09章:工程图TechDraw 第07章:参数化表达式与Spreadsheet 第08章:装配设计Assembly 第06章:Part工作台与几何内核 第05章:PartDesign实体特征建模 第04章:草图Sketcher约束建模 第02章:安装版本与工作环境配置 第03章:界面工作台与基础操作 第01章:项目全景与学习路线 第十二章:插件开发、研究功能与最佳实践 第十章:定时任务与自动化(Cron) 第七章:技能、记忆与自学习闭环 第八章:MCP 集成与上下文文件 第六章:工具系统与终端后端 第五章:模型供应商与配置体系 Hermes Agent 教程目录 第十一章:语音、视觉、浏览器与子代理协作 第四章:CLI/TUI 与会话管理 第十二章:学习路线、实战方案与最佳实践 第十一章:源码结构、开发调试与插件开发 第十章:自动化、远程访问、日志与排障 第九章:Control UI、节点、Canvas 与语音能力 第七章:工具、技能、插件与能力扩展 第八章:安全模型、访问控制与沙箱实践 第六章:Agent 工作区、会话与多智能体路由 第五章:多通道消息接入与聊天平台配置 第四章:配置体系、模型接入与认证管理 第三章:Gateway 架构、协议与运行机制 第二章:安装、环境准备与快速上手 第一章:OpenClaw 项目概览与核心定位 oh-my-openagent 教程目录 09-命令模型回退与配置参考 10-实战案例最佳实践与故障排除 05-工作模式-Ultrawork-Prometheus-Atlas 08-Hooks与MCP系统 06-Category与Skill系统 07-核心工具链 04-智能体全景详解 03-安装与环境配置 02-整体架构与多模型编排机制 01-项目简介与核心理念 01-项目概览与学习路线 02-安装部署与工具适配 03-Skill机制与using-superpowers 05-TDD系统化调试与完成前验证 04-需求澄清方案设计与计划编写 07-并行智能体子智能体与Git-Worktree 第六章:代码审查、反馈处理与分支收尾 08-中国特色Skills与本土团队落地 09-MCP构建工作流执行与自定义Skill 第23章:FreeCAD-Python-API Clipper2 C# 源码解读教程 第19章:PolyTree 多边形树结构 第20章:实际应用与最佳实践 第18章:Minkowski 和与差 第17章:RectClip 矩形裁剪优化 第16章:ClipperOffset 偏移类详解 第15章:填充规则详解 第14章:布尔运算执行流程 第13章:ClipperD 浮点裁剪类 第11章:OutRec 与 OutPt 输出结构 第9章:Active 活动边结构 第10章:Vertex 顶点与 LocalMinima 局部极小值 第12章:Clipper64 裁剪类详解 第7章:高精度运算与128位整数 第8章:ClipperBase 基类详解 第5章:枚举类型与常量定义 第6章:InternalClipper 内部工具类 第2章:核心数据结构 - Point64、PointD 第3章:路径与多边形表示 - Path64、PathD、Paths64、PathsD 第4章:矩形边界 - Rect64、RectD
第06章 - 屏幕与像素操作
我才是银古 · 2026-06-24 · via 博客园 - 我才是银古

第06章 - 屏幕与像素操作

让自动化程序“看见”屏幕,是实现智能化决策的前提。RobotGo 提供了读取屏幕尺寸、获取像素颜色、查询多显示器信息以及处理高分屏缩放等一系列与屏幕相关的能力。本章聚焦于这些“读取屏幕信息”的函数,截图与图像处理则留到下一章。

6.1 获取屏幕尺寸

最基础的屏幕信息是分辨率(宽和高):

sx, sy := robotgo.GetScreenSize()
fmt.Println("屏幕尺寸:", sx, sy) // 例如 1920 1080

GetScreenSize 返回主显示器的宽度和高度(像素)。在编写自动化脚本时,常用它来做坐标的相对计算,例如“点击屏幕正中央”:

sx, sy := robotgo.GetScreenSize()
robotgo.Move(sx/2, sy/2)
robotgo.Click()

通过相对屏幕尺寸计算坐标,比硬编码绝对坐标更能适应不同分辨率的机器。

6.2 获取像素颜色

GetPixelColor 返回指定坐标处像素的颜色,结果是一个不带 # 前缀的十六进制字符串(如 ffffff 表示白色):

color := robotgo.GetPixelColor(100, 200)
fmt.Println("颜色:", color) // 例如 "ff0000"

像素颜色检测是一种轻量级的“界面状态识别”手段。例如,判断某个开关按钮是否处于“开启”状态,可以读取它的颜色并与预期值比较:

func isButtonOn(x, y int) bool {
    return robotgo.GetPixelColor(x, y) == "4caf50" // 绿色表示开启
}

6.2.1 等待某个像素变色

结合轮询,可以实现“等待界面进入某状态再继续”的逻辑:

func waitColor(x, y int, target string, timeoutMs int) bool {
    elapsed := 0
    for elapsed < timeoutMs {
        if robotgo.GetPixelColor(x, y) == target {
            return true
        }
        robotgo.MilliSleep(100)
        elapsed += 100
    }
    return false
}

这种模式在自动化脚本中极为常见:先点击,再等待界面给出预期的视觉反馈,然后进行下一步。比固定 Sleep 更稳健。

6.3 获取鼠标位置

虽然属于鼠标范畴,但读取鼠标坐标常与屏幕操作配合使用:

x, y := robotgo.Location()
fmt.Println("鼠标位置:", x, y)

一个实用的小技巧:在编写脚本前,可以写一个循环不断打印鼠标坐标,用它来“拾取”目标元素的精确坐标:

package main

import (
    "fmt"

    "github.com/go-vgo/robotgo"
)

func main() {
    for {
        x, y := robotgo.Location()
        color := robotgo.GetPixelColor(x, y)
        fmt.Printf("坐标: (%d, %d)  颜色: %s\n", x, y, color)
        robotgo.MilliSleep(500)
    }
}

把鼠标移动到你关心的 UI 元素上,控制台就会实时打印它的坐标和颜色,非常方便后续硬编码或调试。

6.4 多显示器支持

现代开发环境常常配备多块显示器。RobotGo 提供了一组函数来处理多屏。

6.4.1 显示器数量

num := robotgo.DisplaysNum()
fmt.Println("显示器数量:", num)

6.4.2 当前操作的显示器:DisplayID

RobotGo 用全局变量 DisplayID 来指定后续截图等操作针对哪一块显示器(默认值通常为 -1 或 0,表示主屏):

robotgo.DisplayID = 1 // 切换到第 2 块显示器

6.4.3 显示器边界:GetDisplayBounds

GetDisplayBounds 返回指定显示器的边界(起始坐标与宽高):

num := robotgo.DisplaysNum()
for i := 0; i < num; i++ {
    x, y, w, h := robotgo.GetDisplayBounds(i)
    fmt.Printf("显示器 %d: 起点(%d, %d) 尺寸 %dx%d\n", i, x, y, w, h)
}

通过 GetDisplayBounds,你可以准确地知道每块屏幕在整个虚拟桌面坐标系中的位置和大小,从而正确地在某块副屏上定位、截图或点击。例如,要截取第 i 块屏幕的完整内容:

x, y, w, h := robotgo.GetDisplayBounds(i)
img, _ := robotgo.CaptureImg(x, y, w, h)
robotgo.Save(img, fmt.Sprintf("display_%d.png", i))

CaptureImgSave 的细节见下一章。)

6.5 高分屏与缩放(DPI / Retina)

在 Retina(macOS)或开启了系统缩放(如 Windows 150%、200%)的高分屏上,需要注意“逻辑像素”与“物理像素”的区别。例如 macOS Retina 屏上,截图得到的物理像素分辨率可能是逻辑坐标的两倍。

RobotGo 提供了一些辅助函数来处理缩放,例如获取缩放比例的 ScaleScaleF,以及在不同坐标体系间转换的相关函数。处理高分屏时的通用建议:

  1. 统一坐标体系:明确你拿到的坐标是逻辑坐标还是物理坐标,避免混用。
  2. 以截图为准做图像匹配:图像查找(第 8 章)基于截图的物理像素,确保模板图与截图来自相同缩放环境。
  3. 实测校准:在目标机器上用 6.3 节的“坐标拾取”脚本实测,确认坐标与缩放的对应关系。

6.6 综合示例

下面把屏幕信息读取的能力集中演示一遍:

package main

import (
    "fmt"

    "github.com/go-vgo/robotgo"
)

func main() {
    // 主屏尺寸
    sx, sy := robotgo.GetScreenSize()
    fmt.Println("主屏尺寸:", sx, sy)

    // 鼠标位置与像素颜色
    x, y := robotgo.Location()
    fmt.Println("鼠标位置:", x, y)
    fmt.Println("该点颜色:", robotgo.GetPixelColor(x, y))

    // 遍历所有显示器
    num := robotgo.DisplaysNum()
    fmt.Println("显示器数量:", num)
    for i := 0; i < num; i++ {
        dx, dy, dw, dh := robotgo.GetDisplayBounds(i)
        fmt.Printf("显示器 %d: 起点(%d, %d) 尺寸 %dx%d\n", i, dx, dy, dw, dh)
    }
}

6.7 实战技巧与注意事项

  1. 优先相对坐标:用 GetScreenSize 做相对计算,提升脚本在不同分辨率下的适配性。
  2. 轮询代替死等:用“轮询像素颜色”的方式等待界面状态,比固定 Sleep 更稳定可靠。
  3. 颜色比对容差:屏幕渲染、抗锯齿可能导致颜色有细微差异。严格相等比较有时会失败,必要时可解析十六进制为 RGB 后做“近似匹配”(允许一定误差范围)。
  4. 多屏坐标基准:处理副屏时务必用 GetDisplayBounds 拿到该屏的偏移,再做坐标换算。
  5. 高分屏先校准:在 Retina / 高缩放环境下,先用拾取脚本确认坐标与像素的真实关系,再编写正式逻辑。

6.8 小结

本章我们掌握了 RobotGo 读取屏幕信息的能力:获取屏幕尺寸、读取像素颜色、查询鼠标位置、处理多显示器(数量、DisplayIDGetDisplayBounds)以及高分屏缩放的注意事项。我们还学习了用“轮询像素”实现稳健的状态等待,以及用“坐标拾取脚本”辅助调试。下一章我们将进入截图与图像处理,把屏幕内容真正“拍下来”用于后续分析。