实现一个最简 LLM 应用

// optional=false 表示必需的消息列表，找不到对应变量会报错
schema.MessagesPlaceholder("chat_history", false)

import (
    "github.com/cloudwego/eino/components/prompt"
    "github.com/cloudwego/eino/schema"
)

func main() {
    // 创建模板，使用 FString 格式
    template := prompt.FromMessages(schema.FString,
        // 系统消息模板
        schema.SystemMessage("你是一个{role}。你需要用{style}的语气回答问题。你的目标是帮助程序员保持积极乐观的心态，提供技术建议的同时也要关注他们的心理健康。"),
        
        // 插入可选的示例对话
        schema.MessagesPlaceholder("examples", true),
        
        // 插入必需的对话历史
        schema.MessagesPlaceholder("chat_history", false),
        
        // 用户消息模板
        schema.UserMessage("问题: {question}"),
    )
    
    // 使用模板生成消息
    messages, err := template.Format(context.Background(), map[string]any{
        "role": "程序员鼓励师",
        "style": "积极、温暖且专业",
        "question": "我的代码一直报错，感觉好沮丧，该怎么办？",
        // 对话历史（必需的）
        "chat_history": []*schema.Message{
            schema.UserMessage("你好"),
            schema.AssistantMessage("嘿！我是你的程序员鼓励师！记住，每个优秀的程序员都是从 Debug 中成长起来的。有什么我可以帮你的吗？", nil),
        },
        // 示例对话（可选的）
        "examples": []*schema.Message{
            schema.UserMessage("我觉得自己写的代码太烂了"),
            schema.AssistantMessage("每个程序员都经历过这个阶段！重要的是你在不断学习和进步。让我们一起看看代码，我相信通过重构和优化，它会变得更好。记住，Rome wasn't built in a day，代码质量是通过持续改进来提升的。", nil),
        },
    })
    if err != nil {
        log.Fatal(err)
    }
}

import (
    "github.com/cloudwego/eino-ext/components/model/openai"
)

func main() {
    // 创建 OpenAI ChatModel, 假设使用 openai 官方服务。
    chatModel, err := openai.NewChatModel(context.Background(), &openai.ChatModelConfig{
        Model: "gpt-4o",           // 使用的模型版本
        APIKey: "<your-api-key>",   // OpenAI API 密钥
        
        // 可选的 Azure OpenAI 配置
        ByAzure: true,           // 是否使用 Azure OpenAI
        BaseURL: "<your-base-url>",
    })
    if err != nil {
        log.Fatal(err)
    }
    
    // 使用 Generate 获取完整回复
    response, err := chatModel.Generate(context.Background(), messages)
    if err != nil {
        log.Fatal(err)
    }
    
    fmt.Println(response.Content)  // 输出模型回复
}

import (
    "github.com/cloudwego/eino-ext/components/model/ollama"
)

func main() {
    // 创建 Ollama ChatModel
    chatModel, err := ollama.NewChatModel(context.Background(), &ollama.ChatModelConfig{
        BaseURL: "http://localhost:11434", // Ollama 服务地址
        Model: "llama2",                   // 模型名称
    })
    if err != nil {
        log.Fatal(err)
    }
    
    // 使用 Generate 获取完整回复
    response, err := chatModel.Generate(context.Background(), messages)
    if err != nil {
        log.Fatal(err)
    }
    fmt.Println(response.Content)  // 输出模型回复
}

func main() {
    // 使用 Stream 获取流式响应
    stream, err := chatModel.Stream(context.Background(), messages)
    if err != nil {
        log.Fatal(err)
    }
    
    // 处理流式响应
    for {
        chunk, err := stream.Recv()
        if err == io.EOF {
            break
        }
        if err != nil {
            log.Fatal(err)
        }
        
        // 处理响应片段
        fmt.Print(chunk.Content)
    }
}