重构: 进一步抽象出一个Conversation的接口，负责短期单个对话的记忆。配合原有的ChatMemory接口，ChatMemory则是负责全局记忆的存储策略及针对不同类型数据库的适配。

Author: workwind

src/main/java/com/xiaozhi/communication/common/ChatSession.java

@@ -1,6 +1,7 @@
 package com.xiaozhi.communication.common;
 
 import com.xiaozhi.communication.domain.iot.IotDescriptor;
+import com.xiaozhi.dialogue.llm.memory.Conversation;
 import com.xiaozhi.dialogue.llm.tool.ToolsSessionHolder;
 import com.xiaozhi.dialogue.llm.tool.mcp.device.DeviceMcpHolder;
 import com.xiaozhi.entity.SysDevice;
@@ -30,6 +31,11 @@ public abstract class ChatSession {
      * 设备可用角色列表
      */
     protected List<SysRole> sysRoleList;
+    /**
+     * 一个Session在某个时刻，只有一个活跃的Conversation。
+     * 当切换角色时，Conversation应该释放新建。切换角色一般是不频繁的。
+     */
+    protected Conversation conversation;
     /**
      * 设备iot信息
      */
@@ -142,4 +148,21 @@ public List<ToolCallback> getToolCallbacks() {
     public abstract void sendTextMessage(String message);
 
     public abstract void sendBinaryMessage(byte[] message);
+
+    /**
+     * 设置 Conversation，需要与当前活跃角色一致。
+     * 当切换角色时，会释放当前 Conversation，并新建一个对应于新角色的Conversation。
+     * @param conversation
+     */
+    public void setConversation( Conversation conversation) {
+        this.conversation = conversation;
+    }
+
+    /**
+     * 获取与当前活跃角色一致的 Conversation。
+     * @return
+     */
+    public Conversation getConversation() {
+        return conversation;
+    }
 }

src/main/java/com/xiaozhi/communication/common/MessageHandler.java

@@ -1,8 +1,9 @@
 package com.xiaozhi.communication.common;
 
 import com.xiaozhi.communication.domain.*;
-import com.xiaozhi.dialogue.llm.ChatService;
 import com.xiaozhi.dialogue.llm.factory.ChatModelFactory;
+import com.xiaozhi.dialogue.llm.memory.ChatMemory;
+import com.xiaozhi.dialogue.llm.memory.Conversation;
 import com.xiaozhi.dialogue.llm.tool.ToolsGlobalRegistry;
 import com.xiaozhi.dialogue.llm.tool.ToolsSessionHolder;
 import com.xiaozhi.dialogue.service.AudioService;
@@ -65,7 +66,7 @@ public class MessageHandler {
     private SttServiceFactory sttFactory;
 
     @Resource
-    private ChatService chatService;
+    private ChatMemory chatMemory;
 
     @Resource
     private ChatModelFactory chatModelFactory;
@@ -105,6 +106,7 @@ public void afterConnection(ChatSession chatSession, String deviceIdAuth) {
             //以上同步处理结束后，再启动虚拟线程进行设备初始化，确保chatSession中已设置的sysDevice信息
             Thread.startVirtualThread(() -> {
                 try {
+                    // 从数据库获取角色描述。device.getRoleId()表示当前设备的当前活跃角色，或者上次退出时的活跃角色。
                     SysRole role = roleService.selectRoleById(device.getRoleId());
 
                     if (role.getSttId() != null) {
@@ -121,7 +123,8 @@ public void afterConnection(ChatSession chatSession, String deviceIdAuth) {
                     }
                     if (role.getModelId() != null) {
                         chatModelFactory.takeChatModel(chatSession);// 提前初始化，加速后续使用
-                        chatService.initializeHistory(chatSession);
+                        Conversation conversation = chatMemory.initConversation(device, role, sessionId);
+                        chatSession.setConversation( conversation);
                         // 注册全局函数
                         toolsSessionHolder.registerGlobalFunctionTools(chatSession);
                     }
@@ -178,7 +181,7 @@ public void afterConnectionClosed(String sessionId) {
         // 清理对话
         dialogueService.cleanupSession(sessionId);
         // 清理ChatService缓存的对话历史。
-        chatService.clearMessageCache(device.getDeviceId());
+        chatMemory.clearMessages(device.getDeviceId());
     }
 
     /**

src/main/java/com/xiaozhi/dialogue/llm/ChatService.java

@@ -3,14 +3,17 @@
 import com.xiaozhi.communication.common.ChatSession;
 import com.xiaozhi.dialogue.llm.api.StreamResponseListener;
 import com.xiaozhi.dialogue.llm.factory.ChatModelFactory;
-import com.xiaozhi.dialogue.llm.memory.ChatMemoryStore;
+import com.xiaozhi.dialogue.llm.memory.Conversation;
+import com.xiaozhi.dialogue.llm.memory.DatabaseChatMemory;
+import com.xiaozhi.dialogue.llm.memory.MessageWindowConversation;
 import com.xiaozhi.entity.SysDevice;
 import com.xiaozhi.entity.SysMessage;
+import com.xiaozhi.entity.SysRole;
+import com.xiaozhi.service.SysRoleService;
 import com.xiaozhi.utils.EmojiUtils;
 import jakarta.annotation.Resource;
 import org.slf4j.Logger;
 import org.slf4j.LoggerFactory;
-import org.springframework.ai.chat.memory.MessageWindowChatMemory;
 import org.springframework.ai.chat.messages.*;
 import org.springframework.ai.chat.metadata.ChatGenerationMetadata;
 import org.springframework.ai.chat.model.ChatModel;
@@ -23,14 +26,13 @@
 import reactor.core.publisher.Flux;
 
 import java.util.ArrayList;
-import java.util.Collections;
 import java.util.List;
-import java.util.Map;
 import java.util.concurrent.atomic.AtomicBoolean;
 import java.util.concurrent.atomic.AtomicInteger;
 import java.util.regex.Matcher;
 import java.util.regex.Pattern;
-import java.util.stream.Collectors;
+
+import static com.xiaozhi.dialogue.llm.memory.MessageWindowConversation.DEFAULT_HISTORY_LIMIT;
 
 /**
  *
@@ -67,15 +69,15 @@ public class ChatService {
     // 新句子判断的字符阈值
     private static final int NEW_SENTENCE_TOKEN_THRESHOLD = 8;
 
-
-
-    @Resource(name = "messageWindowChatMemory")
-    private ChatMemoryStore chatMemoryStore;
+    @Resource
+    private DatabaseChatMemory chatMemoryStore;
 
     // TODO 移到构建者模式，由连接通过认证，可正常对话时，创建实例，构建好一个完整的Role.
     @Resource
     private ChatModelFactory chatModelFactory;
 
+    @Resource
+    private SysRoleService roleService;
     /**
      * 处理用户查询（同步方式）
      * 
@@ -97,7 +99,8 @@ public String chat(ChatSession session, String message, boolean useFunctionCall)
                     .build();
 
             UserMessage userMessage = new UserMessage( message);
-            Prompt prompt = new Prompt(chatMemoryStore.prompt(device, userMessage),chatOptions);
+            List<Message> messages = session.getConversation().prompt( userMessage);
+            Prompt prompt = new Prompt(messages,chatOptions);
 
             ChatResponse chatResponse = chatModel.call(prompt);
             if (chatResponse == null || chatResponse.getResult().getOutput().getText() == null) {
@@ -109,7 +112,7 @@ public String chat(ChatSession session, String message, boolean useFunctionCall)
             Thread.startVirtualThread(() -> {// 异步持久化
 
                 // 保存AI消息，会被持久化至数据库。
-                chatMemoryStore.addMessage(device, assistantMessage,null);
+                session.getConversation().addMessage( assistantMessage,null);
             });
             return assistantMessage.getText();
 
@@ -137,7 +140,8 @@ public Flux<ChatResponse> chatStream(ChatSession session, SysDevice device, Stri
                 .build();
 
         UserMessage userMessage = new UserMessage(message);
-        Prompt prompt = new Prompt(chatMemoryStore.prompt(device, userMessage),chatOptions);
+        List<Message> messages = session.getConversation().prompt( userMessage);
+        Prompt prompt = new Prompt(messages,chatOptions);
 
         // 调用实际的流式聊天方法
         return chatModel.stream(prompt);
@@ -184,20 +188,6 @@ public void chatStreamBySentence(ChatSession session, String message, boolean us
         }
     }
 
-    /**
-     * 初始化设备的历史记录缓存
-     *
-     */
-    public void initializeHistory(ChatSession chatSession) {
-        if (chatSession.getSysDevice() == null) {
-            return;
-        }
-        SysDevice device = chatSession.getSysDevice();
-
-        // 从数据库加载历史记录，初始化缓存。
-        List<Message> history = chatMemoryStore.initHistory(device.getDeviceId());
-        logger.info("已初始化设备 {} 的历史记录缓存，共 {} 条消息", device.getDeviceId(), history.size());
-    }
 
     /**
      * 清除设备缓存
@@ -379,13 +369,13 @@ void persistMessages(String toolName) {
 
             Thread.startVirtualThread(() -> {// 异步持久化
                 String userAudioPath = session.getUserAudioPath();
-                chatMemoryStore.addMessage(session.getSysDevice(), userMessage,  userAudioPath);
+                session.getConversation().addMessage( userMessage,  userAudioPath);
 
                 if (!fullResponse.isEmpty()) {
                     AssistantMessage assistantMessage = new AssistantMessage(fullResponse.toString());
                     String assistAudioPath = session.getAssistantAudioPath();
 
-                    chatMemoryStore.addMessage(session.getSysDevice(), assistantMessage, assistAudioPath);
+                    session.getConversation().addMessage(assistantMessage, assistAudioPath);
                 }
             });
         }

src/main/java/com/xiaozhi/dialogue/llm/memory/ChatMemory.java

@@ -0,0 +1,40 @@
+package com.xiaozhi.dialogue.llm.memory;
+
+import com.xiaozhi.entity.SysDevice;
+import com.xiaozhi.entity.SysMessage;
+import com.xiaozhi.entity.SysRole;
+
+import java.util.List;
+
+/**
+ * 聊天记忆接口，全局对象，不针对单个会话，而是负责全局记忆的存储策略及针对不同类型数据库的适配。。
+ * 不同于SysMessageService，此接口应该是一个更高的抽象层，更多是负责存储策略而并非底层存储的增删改查。
+ * 已经参考了spring ai 的ChatMemory接口，暂时放弃spring ai 的ChatMemory。
+ * 以后使用ChatClient与Advisor时直接实现一个更本地友好的ChatMemoryAdvisor。
+ * Conversation则是参考了 langchain4j 的ChatMemory。
+ *
+ */
+public interface ChatMemory {
+
+    /**
+     * 不同的ChatMemory实现类，可以有不同的处理策略，可以初始化不同的Conversation子类。
+     *
+     * @param device 设备
+     * @param role 角色
+     * @param sessionId 会话ID
+     * @return 会话
+     */
+    Conversation initConversation(SysDevice device, SysRole role, String sessionId);
+    // TODO 考虑将参数以Message对象传递，而不是多个参数。在再下一层Service层转换sparing ai的Message为Mapper需要的SysMessage对象
+    void addMessage(String deviceId, String sessionId, String sender, String content, Integer roleId, String messageType, String audioPath);
+
+    List<SysMessage> getMessages(String deviceId, String messageType, Integer limit);
+
+    /**
+     * 清除设备的历史记录
+     * 
+     * @param deviceId 设备ID
+     */
+    void clearMessages(String deviceId);
+
+}

src/main/java/com/xiaozhi/dialogue/llm/memory/ChatMemoryStore.java

@@ -0,0 +1,56 @@
+package com.xiaozhi.dialogue.llm.memory;
+
+import com.xiaozhi.entity.SysDevice;
+import com.xiaozhi.entity.SysRole;
+import org.springframework.ai.chat.messages.AssistantMessage;
+import org.springframework.ai.chat.messages.Message;
+import org.springframework.ai.chat.messages.UserMessage;
+
+import java.util.List;
+
+/**
+ * Conversation 是一个 对应于 sys_message 表的，但高于 sys_message 的一个抽象实体。
+ * deviceID, roleID, sessionID, 实质构成了一次Conversation的全局唯一ID。这个ID必须final 的。
+ * 在关系型数据库里，可以将deviceID, roleID, sessionID 建一个组合索引，注意顺序sessionID放在最后。
+ * 在图数据库里， conversation label的节点，连接 device节点、role节点。
+ * deviceID与roleID本质上不是Conversation的真正属性，而是外键，代表连接的2个对象。
+ * 只有sessionID是真正挂在Conversation的属性。
+ *
+ */
+public abstract class Conversation {
+    private final SysDevice device;
+    private final SysRole role;
+    private final String sessionId;
+
+    private List<Message> messages;
+
+    public Conversation(SysDevice device, SysRole role, String sessionId, List<Message> messages) {
+        this.device = device;
+        this.role = role;
+        this.sessionId = sessionId;
+        this.messages = messages;
+    }
+
+    public SysDevice device() {
+        return device;
+    }
+    public SysRole role() {
+        return role;
+    }
+
+    public String sessionId() {
+        return sessionId;
+    }
+
+    public List<Message> messages() {
+        return messages;
+    }
+
+    abstract public void clear();
+
+    abstract public void addMessage(UserMessage message, String audioPath);
+
+    abstract public void addMessage(AssistantMessage message, String audioPath);
+
+    abstract public List<Message> prompt(UserMessage userMessage);
+}