手机上的AI出错，为什么现有工具查不出来Why On-Device Inference Needs Custom Observability

AI不只在云端运行，越来越多地跑在手机上。可手机不是数据中心，它内存小、会发热、还会被系统更新影响。

有个工程师叫Karani，他发现手机上的AI出错时，用传统的监控工具根本查不出原因。于是他做了一个新工具，专门解决这个问题。

手机AI的坑

测试时一切正常，用户一用就出错。原来用户常在高温下使用手机，热导致AI反应变慢，甚至判断错误。

这些错误在测试时重现不了，因为测试环境里没有那种压力和温度。

新工具怎么查

他的工具不仅记录AI的输入输出，还同时记录手机的温度、内存和CPU状态。这样就能看出，是不是因为手机太热或内存不够导致AI出错。

更重要的是，它能自动把真实的错误变成测试用例，下次发布前先在各种设备上测一遍，防止同样的问题再犯。

隐私必须守住

调试AI需要看数据，但手机里有很多隐私。这个工具设计成不记录用户的文字、截图或联系人，只记录一些技术参数。

这样既能让工程师发现并解决问题，又不会偷看用户的内容。

手机AI会越来越多，因为它的好处很明显：隐私好、反应快、还省钱。但想让它可靠，就需要这样专门给手机设计的监控方法。