本地部署的大语言模型如何与微信小程序对接?
2024-03-13 阅读 10
思路很直接：把本地模型封装成一个对外服务（HTTP REST 和/或 WebSocket），小程序用 wx.request 或 wx.connectSocket 与之通信。要点是服务必须能被小程序访问——在微信公众平台/开发者工具把服务器域名加入白名单并使用 HTTPS/有效证书；若需要实时增量返回建议用 WebSocket，普通问答用 REST JSON 接口；服务端做好鉴权、并发限流、会话管理和输入长度校验；注意模型的算力与延迟，必要时做请求排队或简化提示。开发调试可用内网穿透工具进行测试。
更新于 2026年01月03日
