TinyAI安卓手机版

TinyAI是一款轻量级 Android应用，无需依赖稳定网络环境，断开互联网连接依旧可以正常调用大模型进行问答、文本创作、逻辑分析等任务，摆脱在线 AI服务的网络限制与数据传输风险。软件轻量化的设计理念，降低了本地部署大模型对手机配置的门槛，让更多安卓设备能够体验端侧离线大模型能力。

软件内容

优化前台与后台运行策略，支持切至后台持续进行推理任务，同时管控功耗输出，缓解长时间运行大模型带来的发热问题。

适配量化后的大语言模型权重文件，借助移动端推理优化技术，降低大模型运行所需内存，让普通安卓手机也能够顺畅加载本地大模型。

采用 MediaPipe结合 LiteRT推理框架，LiteRT前身即为 TensorFlow
Lite，专为移动终端优化，能够高效加载、运行各类适配的大语言模型文件。

软件特色

1、内置推理运行状态监控，直观展示内存占用、生成速度等运行信息，方便用户实时掌握设备负载，及时调整参数避免手机卡顿。

2、应用运行无需注册账号、无需登录授权，不存在云端账户采集行为，所有交互数据仅留存本地，规避在线 AI平台的数据收集相关风险。

3、完整支持离线运行模式，全程不需要互联网连接，输入的指令、AI生成的文本全部保存在本机，不会向外部云端传输任何用户数据，有效保护隐私。

使用说明

1、完全本地化，模型下载后无需互联网。

2、支持多种格式，加载.task (MediaPipe)和.litertlm (LiteRT)模型。

3、在 RAM低至 3GB的设备上运行小型模型 (1B–3B)。

4、直接在应用程序内浏览和下载 Hugging Face的模型。

软件亮点

对话会话独立保存，各类聊天记录存储在手机本地目录，支持随时查看、清空历史对话，用户自主掌握数据留存与删除权限。

提供模型参数自定义选项，用户可调整上下文窗口大小、生成随机性、输出长度等配置，按照自身需求平衡生成速度与内容效果。

独立管理本地模型文件，模型资源由用户自行下载导入，软件不捆绑内置模型，能够自由选择不同规格、不同系列的兼容大语言模型。