AI 现在无处不在地出现在儿童应用中。会写个性化睡前故事的故事生成器，能让孩子涂鸦动起来的绘画工具，用友好的声音讲解数学的辅导助手。这些工具对学习与创造力都可能非常美妙。但有一个关键问题大多数家长从未想到要问：AI 究竟运行在哪里？

儿童应用中 AI 的崛起

自 2023 年生成式 AI 爆发以来，它以极快的速度涌入儿童应用市场。Common Sense Media 报告称，到 2025 年，下载量靠前的儿童教育类应用中已有超过 40% 包含某种形式的 AI 生成内容。从简单的文本补全到复杂的图像生成和语音交互，应有尽有。

对孩子而言，AI 的潜力是真实的。不愿向家长大声朗读的腼腆孩子可能很乐意给 AI 伙伴讲故事；为分数挠头的孩子可以获得耐心、自适应的解释，针对他具体的误解逐步引导。

但这些功能背后的架构——具体来说，AI 是在云端还是在设备本地运行——对孩子的隐私与安全有深远影响。

云端 AI 是怎么工作的

当 App 使用云端 AI 时，孩子每一次与之交互都会发生：

• 孩子输入提示词、说出问题或画一张图
• 这些输入被打包成网络请求发送到服务器——通常由 App 开发者或 OpenAI、Google、Anthropic 等第三方 AI 提供商运营
• 服务器用一个大型 AI 模型处理输入
• 结果传回设备并显示

这意味着孩子的实际内容——他们说的话、提出的问题、画的画、录下的声音——会从设备上实际离开，传到某个数据中心里的计算机。许多情况下，这些数据会被记录、保存，甚至可能用于训练未来的 AI 模型。

究竟有什么传到了服务器

把"数据"具体化很重要，否则它听起来过于抽象。儿童应用中的云端 AI 系统通常会收到：

• 孩子完整的文字输入。如果孩子打字写道："我怕黑，我叫艾玛，住在枫树街。"整段文字都会送到服务器。
• 语音录音。如果应用使用语音转文字，原始音频通常会被传输用于转写。这是孩子声音的录音。
• 画作和图像。会让涂鸦动起来或对其修改的 AI 绘画助手通常会把图像文件发送到服务器处理。
• 对话历史。为了维持上下文，许多 AI 系统每次请求都会发送完整的对话历史。20 分钟的辅导会形成孩子所有发言和所有错误的详细记录。
• 元数据。设备标识、大致位置、时间戳、App 使用模式。

即使开发者出于善意，这些数据现在也已经存在于他们的服务器上，受制于他们的安全实践、保留政策、所在国法律框架，以及任何被整合的第三方 AI 提供商的政策。

为什么这对孩子更重要

成年人每天都会就数据共享做出知情权衡。儿童不能，原因有几个：

• COPPA 与法律保护。美国《儿童在线隐私保护法》和英国《年龄适宜设计准则》正是因为儿童数据需要特殊处理而存在。对 13 岁以下儿童收集个人信息前，需获得可核验的家长同意。但执行并不一致，许多 App 在规避这些要求。
• 数据的持久性。今天收集的儿童数据会在他们长大后依然存在。7 岁孩子向 AI 老师提的一个尴尬问题理论上可能在训练数据集中保留数十年。儿童无法对这种长期影响作出同意。
• 内容审核挑战。云端 AI 必须防止孩子接触有害内容。这极难做到完美。提示注入攻击、模型幻觉中产生的不当内容以及内容过滤器的边缘情况，对最优秀的 AI 实验室也是持续的难题。
• 数据泄露脆弱性。当儿童数据汇集在服务器上，它就成为目标。2015 年 VTech 泄露曝光了 640 万儿童的个人数据；2018 年 Orbitz 泄露影响 88 万条记录。从未存在于服务器上的数据，也就无法被从服务器上窃取。

设备端 AI 有何不同

设备端 AI——有时也被称为"边缘 AI"——直接在手机或平板上运行模型。孩子的输入从不离开设备。流程是：

• 孩子打字、说话或画画
• 输入由本地存储的模型处理
• 结果在设备上生成并显示
• 不传输任何东西。不涉及任何服务器。

这种架构不仅是新增了"隐私功能"——它从结构上消除了整类风险。没有服务器可以被攻破。没有对话日志可以被传唤。没有训练数据流水线会无意中纳入儿童内容。没有第三方 AI 提供商及其自己的数据政策。

取舍是真实存在的

设备端 AI 并不是简单的"私有版本的云 AI"。其中存在真实的取舍：

• 模型规模。GPT-4 等云模型拥有数千亿参数。设备端模型通常为 1–7 亿到几十亿参数级别，在复杂推理、细腻语言和多步任务上能力较弱。
• 回应质量。云端故事生成器写出的故事比同级别设备端模型更有创意、更连贯、更多变。差距在缩小，但仍真实存在。
• 硬件要求。本地运行 AI 需要较新的硬件。老旧手机和平板可能算力或内存不足。苹果的神经引擎和近年的 Qualcomm 芯片处理这类负载没问题，但低端机可能吃力。
• 没有实时知识。云模型原则上能访问最新信息，设备端模型只知道训练时的内容。

但对儿童应用来说，这些取舍通常是可接受的。给 6 岁孩子写故事的生成器不需要 GPT-4 级别的复杂度；面向小学的数学辅导也不需要实时联网。儿童内容的"够好"标准与成人应用不同。

苹果的 Core ML 与设备端趋势

苹果在让设备端 AI 变得切实可用方面投入巨大。Core ML 是苹果的机器学习框架，允许开发者直接在 iPhone 和 iPad 上运行经过优化的模型。苹果 A 系和 M 系芯片中的神经引擎专为 ML 推理设计，几年前还是服务器级的性能如今已能在终端实现。

2024 年推出的 Apple Intelligence 进一步强化了这一方向。苹果明确表示：个人数据应尽可能在设备端处理，只在必要时使用云端处理，并辅以额外的密码学保障（Private Cloud Compute）。

谷歌也在 Android 中推动类似的设备端处理。整个行业的大趋势很清晰：把敏感数据留在设备上。

家长应该关注什么

在评估面向孩子的 AI 应用时，问这些问题：

• 它能离线工作吗？试试飞行模式测试。这是判断是否在设备端处理最可靠的方法。
• 隐私政策对 AI 怎么说？找明确说明：AI 输入是否被传输、保存或用于训练。"我们可能处理数据来改进服务"这种模糊措辞是危险信号。
• AI 由谁提供？若 App 使用了第三方 AI API（OpenAI、Google 等），孩子的数据同时受这一第三方与 App 开发者两套政策约束。
• 是否有儿童隐私认证？留意 kidSAFE、PRIVO 或类似专门审计儿童数据实践的认证。
• App Store 隐私标签显示什么？苹果要求开发者披露数据收集情况。下载前查看每款应用的"App 隐私"部分。

Sparks Studio 是一个例子——其 AI 功能完全在设备端运行：故事创作和绘画工具都能离线使用，孩子的任何数据都不离开 iPad。无论你选择哪款应用，飞行模式测试对所有 App 都适用。

更宏观的图景

这并不是要反对 AI。AI 工具确实能帮孩子学习、创造和探索。问题在于这种帮助是否需要把孩子的创作产出、提问、错误和个人细节送到服务器。

对能做出知情同意的成人应用而言，云端 AI 往往是合理的权衡。对儿童而言——他们无法做出有意义的同意，他们的数据应得到最高保护——设备端 AI 提供了云端架构上无法给出的承诺：私有数据保持私有，不是靠政策承诺，而是因为它一开始就从未离开过设备。