[转载搬运] 手机离线跑AI的最佳选择：ChatterUI [1+7g]

baidu100

在众多手机本地运行AI的应用程序中，ChatterUI以其卓越的性能和用户体验脱颖而出，成为我个人最推荐的选择。以下是其突出优点：
4 N0 {; q7 d$ A/ {- J
& `) n  M) G1 U3 s

1. TTS语音朗读对话：ChatterUI支持文本转语音（TTS）功能，能够将对话内容朗读出来，提供更便捷的交互方式。
* _: i! C& I/ g0 Q
2. 美观排版与重点高亮：该应用的界面设计简洁美观，对话内容排版清晰易读，同时支持对重点部分进行高亮显示，便于用户快速抓住关键信息。
3 h5 t; ?+ L6 _' p8 o0 Q
3. 重新生成答案：ChatterUI允许用户对不满意的答案进行重新生成，提供更准确或更符合需求的回答。

4. 对话内容可复制：用户可以轻松复制对话内容，便于后续使用或分享。

# B  o, }3 C% j% n1 A  p; S' s5、支持输出Markdown表格
! F0 u5 Q# I- H2 g5 `, Q
6 Z( m& U+ s) k$ b
% A7 l) C) F5 ]
在旧手机小米9（骁龙855, 8GB RAM）上的运行表现
+ N1 w4 H6 \0 z$ i( f
: O3 S* e$ D2 f( }: t

0 E( o% g- ]& H/ N令人惊喜的是，ChatterlUI在旧手机小米9（搭载骁龙855处理器和8GB RAM）上能够流畅运行3B模型（模型文件大小约为2GB）。这得益于bartowski对q4质量模型的优化，使其能够更好地适应手机的Arm芯片架构。


6 W# Q# |& R, C+ N/ e. Q8 S2 w) M
- ]4 B6 Q5 D% x: y2 X使用方法
: `- ^2 q$ I) T0 D3 w( m
1、解压下载的压缩包，安装ChatterUI
! X5 `( `2 x- h* B- d" I
/ N9 A) m# W7 q. t) x1 ~2、打开软件，点左上菜单，选择Models，点击右上角加号，选择压缩包内的语言模型（包内有三个，配置越高的手机选择越大的)，导入成功会显示该模型的详细信息，点一下右下角的启动。
- r. I+ ?& f( ?0 j/ _9 C5 r
3、退回首页，就可以和AI对话了（第一次打开要把模型跑起来，会慢一点，耐心等一会儿，后面就很快了。)