Windows UI 自动化（pywinauto）

通过 pywinauto 操作任意 Windows 桌面应用：发现窗口、检查控件、点击按钮、输入文字、读取内容。 支持两种后端：Win32 API（传统应用）和 MS UI Automation（现代应用）。

使用场景

• 用户说「帮我在 XX 应用里点一下那个按钮」「自动填一下这个表单」
• 需要操作没有 API 的桌面应用（如 ERP 系统、内部管理系统）
• 需要批量操作 GUI 应用（如自动录入数据）
• 需要读取其他应用界面上的文字内容

后端选择

不确定用哪个时，优先尝试 uia；如果找不到控件，切换为 win32。

命令参考

连接到已有应用

from pywinauto import Application

# 方式 1：通过窗口标题连接
app = Application(backend="uia").connect(title="记事本", timeout=10)

# 方式 2：通过进程名连接
app = Application(backend="uia").connect(path="notepad.exe")

# 方式 3：通过进程 ID 连接
app = Application(backend="uia").connect(process=12345)

启动新应用

from pywinauto import Application

app = Application(backend="uia").start("notepad.exe")
# 等待窗口出现
app.window(title_re=".*记事本.*").wait("ready", timeout=10)

发现窗口和控件

# 列出所有顶层窗口
from pywinauto import Desktop
windows = Desktop(backend="uia").windows()
for w in windows:
    print(f"{w.window_text()} — {w.class_name()}")

# 打印窗口控件树（调试用）
dlg = app.window(title_re=".*记事本.*")
dlg.print_control_identifiers()

点击按钮和菜单

dlg = app.window(title="记事本")

# 点击菜单
dlg.menu_select("文件->打开")

# 点击按钮（通过文本匹配）
dlg.child_window(title="确定", control_type="Button").click()

# 点击按钮（通过 auto_id）
dlg.child_window(auto_id="btnSubmit").click()

输入文字

dlg = app.window(title="记事本")

# 输入到编辑框
edit = dlg.child_window(control_type="Edit")
edit.set_text("要输入的内容")

# 模拟键盘输入（支持特殊键）
edit.type_keys("Hello{ENTER}World", with_spaces=True)

# 特殊键：{ENTER} {TAB} {ESC} {DELETE} {BACKSPACE}
# 修饰键：^ = Ctrl, % = Alt, + = Shift
# 例：Ctrl+A = ^a, Ctrl+Shift+S = ^+s

读取界面内容

dlg = app.window(title="记事本")

# 读取文本框内容
content = dlg.child_window(control_type="Edit").window_text()

# 读取列表项
listbox = dlg.child_window(control_type="List")
items = [item.window_text() for item in listbox.children()]

# 读取表格
table = dlg.child_window(control_type="Table")
for row in table.children():
    cells = [c.window_text() for c in row.children()]
    print(" | ".join(cells))

等待与同步

# 等待窗口出现
dlg = app.window(title="保存").wait("visible", timeout=10)

# 等待窗口消失
app.window(title="加载中...").wait_not("visible", timeout=30)

# 等待控件可用
dlg.child_window(title="提交").wait("enabled", timeout=5)

窗口管理

dlg = app.window(title="记事本")

# 最大化 / 最小化 / 还原
dlg.maximize()
dlg.minimize()
dlg.restore()

# 移动和调整大小
dlg.move_window(x=100, y=100, width=800, height=600)

# 置顶
dlg.set_focus()

# 关闭
dlg.close()

滚动

from pywinauto import mouse

# 向下滚动 3 格（在指定坐标位置）
mouse.scroll(coords=(500, 400), wheel_dist=-3)

# 向上滚动 5 格
mouse.scroll(coords=(500, 400), wheel_dist=5)

# 在控件内滚动（先获取控件位置）
rect = dlg.child_window(control_type="List").rectangle()
mouse.scroll(coords=(rect.mid_point()), wheel_dist=-3)

鼠标坐标操作

from pywinauto import mouse

# 移动鼠标到坐标
mouse.move(coords=(500, 300))

# 在指定坐标左键点击
mouse.click(coords=(500, 300))

# 右键点击
mouse.right_click(coords=(500, 300))

# 双击
mouse.double_click(coords=(500, 300))

拖拽

from pywinauto import mouse

# 拖拽：从 (100,200) 到 (300,400)
mouse.press(coords=(100, 200))
mouse.move(coords=(300, 400))
mouse.release(coords=(300, 400