上下文学习¶

from openai import OpenAI

client = OpenAI(api_key="your-api-key")

def few_shot_sentiment_analysis(text):
    """Few-shot情感分析"""

    prompt = """
你是一个情感分析专家。请判断以下文本的情感倾向(正面/负面/中性)。

示例:

示例1:
输入: 这个产品太棒了,我非常喜欢!
输出: 正面

示例2:
输入: 服务态度很差,不会再来了。
输出: 负面

示例3:
输入: 今天天气不错。
输出: 中性

示例4:
输入: 质量很好,性价比高。
输出: 正面

示例5:
输入: 功能不太好用。
输出: 负面

现在请分析以下文本:
输入: {text}

输出:
"""

    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "system", "content": "你是一个情感分析专家。"},
            {"role": "user", "content": prompt.format(text=text)}
        ],
        temperature=0.3
    )

    return response.choices[0].message.content

# 测试
test_texts = [
    "这个功能设计得很好,用起来很方便。",
    "客服响应太慢了,等了很久。",
    "产品还可以,没有特别突出的地方。"
]

for text in test_texts:
    result = few_shot_sentiment_analysis(text)
    print(f"输入: {text}")
    print(f"输出: {result}\n")

import numpy as np
from sentence_transformers import SentenceTransformer

class DynamicFewShotSelector:
    """动态Few-shot示例选择器"""

    def __init__(self, examples, model_name='all-MiniLM-L6-v2'):
        self.examples = examples
        self.model = SentenceTransformer(model_name)
        self.example_embeddings = self.model.encode(
            [ex['input'] for ex in examples]
        )

    def select_examples(self, test_input, k=5):
        """选择最相似的k个示例"""
        test_embedding = self.model.encode([test_input])

        # 计算余弦相似度
        similarities = np.dot(self.example_embeddings, test_embedding.T).flatten()

        # 选择top-k
        top_indices = np.argsort(similarities)[-k:][::-1]

        return [self.examples[i] for i in top_indices]

    def create_prompt(self, test_input, k=5):
        """创建动态Few-shot Prompt"""
        selected_examples = self.select_examples(test_input, k)

        prompt = "你是一个情感分析专家。请判断以下文本的情感倾向(正面/负面/中性)。\n\n"
        prompt += "示例:\n\n"

        for i, example in enumerate(selected_examples, 1):  # enumerate同时获取索引和元素
            prompt += f"示例{i}:\n"
            prompt += f"输入: {example['input']}\n"
            prompt += f"输出: {example['output']}\n\n"

        prompt += f"现在请分析以下文本:\n"
        prompt += f"输入: {test_input}\n"
        prompt += f"输出:\n"

        return prompt

# 使用示例
examples = [
    {'input': '这个产品太棒了,我非常喜欢!', 'output': '正面'},
    {'input': '服务态度很差,不会再来了。', 'output': '负面'},
    {'input': '今天天气不错。', 'output': '中性'},
    {'input': '质量很好,性价比高。', 'output': '正面'},
    {'input': '功能不太好用。', 'output': '负面'},
    {'input': '价格合理,值得购买。', 'output': '正面'},
    {'input': '包装破损,不太满意。', 'output': '负面'},
    {'input': '还可以,没有特别突出的地方。', 'output': '中性'},
    {'input': '超出预期,非常满意。', 'output': '正面'},
    {'input': '体验一般,有待改进。', 'output': '中性'},
]

selector = DynamicFewShotSelector(examples)

# 测试
test_input = "这个功能设计得很好,用起来很方便。"
prompt = selector.create_prompt(test_input, k=5)

print("动态选择的Few-shot Prompt:")
print(prompt)

def zero_shot_sentiment_analysis(text):
    """Zero-shot情感分析"""

    prompt = """
你是一个情感分析专家。请判断以下文本的情感倾向。

任务要求:
1. 判断文本的情感倾向(正面/负面/中性)
2. 给出情感强度评分(1-10分)
3. 识别文本中的关键情感词
4. 简要说明判断理由

文本内容:
{text}

请按照以下格式输出:
情感倾向: [正面/负面/中性]
情感强度: [1-10分]
关键情感词: [关键词1, 关键词2, ...]
判断理由: [简要说明]
"""

    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "system", "content": "你是一个情感分析专家。"},
            {"role": "user", "content": prompt.format(text=text)}
        ],
        temperature=0.3
    )

    return response.choices[0].message.content

# 测试
test_text = "这个功能设计得很好,用起来很方便,大大提高了工作效率。"
result = zero_shot_sentiment_analysis(test_text)
print(result)

def zero_shot_with_cot(text):
    """带思维链的Zero-shot学习"""

    prompt = """
你是一个情感分析专家。请判断以下文本的情感倾向。

请按照以下步骤进行分析:

步骤1: 识别文本中的情感关键词
- 找出表达情感的词语
- 判断每个词的情感极性

步骤2: 分析文本的整体情感倾向
- 综合所有情感关键词
- 判断整体情感倾向

步骤3: 评估情感强度
- 根据情感词的数量和强度
- 给出情感强度评分(1-10分)

步骤4: 总结判断理由
- 说明判断的依据
- 给出简要理由

文本内容:
{text}

请按照以上步骤进行分析,并输出最终结果。
"""

    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "system", "content": "你是一个情感分析专家。"},
            {"role": "user", "content": prompt.format(text=text)}
        ],
        temperature=0.3
    )

    return response.choices[0].message.content

# 测试
test_text = "这个功能设计得很好,用起来很方便,大大提高了工作效率。"
result = zero_shot_with_cot(test_text)
print(result)

def few_shot_text_classification(text, categories):
    """Few-shot文本分类"""

    # 准备示例
    examples = [
        {'text': '这个产品太棒了!', 'category': '正面评价'},
        {'text': '服务态度很差。', 'category': '负面评价'},
        {'text': '今天天气不错。', 'category': '中性评价'},
        {'text': '质量很好,性价比高。', 'category': '正面评价'},
        {'text': '功能不太好用。', 'category': '负面评价'},
    ]

    prompt = f"""
你是一个文本分类专家。请将文本分类到以下类别中:

类别:
{chr(10).join(f"- {cat}" for cat in categories)}

示例:
"""

    for i, example in enumerate(examples, 1):
        prompt += f"""
示例{i}:
文本: {example['text']}
类别: {example['category']}
"""

    prompt += f"""
现在请分类以下文本:
文本: {text}

类别:
"""

    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "system", "content": "你是一个文本分类专家。"},
            {"role": "user", "content": prompt}
        ],
        temperature=0.3
    )

    return response.choices[0].message.content

# 测试
categories = ['正面评价', '负面评价', '中性评价']
test_text = "这个功能设计得很好,用起来很方便。"
result = few_shot_text_classification(test_text, categories)
print(result)

def few_shot_ner(text):
    """Few-shot命名实体识别"""

    examples = [
        {
            'text': '张三在北京的清华大学工作。',
            'entities': '人名: 张三; 地名: 北京; 组织名: 清华大学'
        },
        {
            'text': '李四去了上海,加入了阿里巴巴公司。',
            'entities': '人名: 李四; 地名: 上海; 组织名: 阿里巴巴公司'
        },
        {
            'text': '王五在深圳的腾讯公司工作。',
            'entities': '人名: 王五; 地名: 深圳; 组织名: 腾讯公司'
        },
    ]

    prompt = """
你是一个命名实体识别专家。请识别文本中的命名实体(人名、地名、组织名)。

示例:
"""

    for i, example in enumerate(examples, 1):
        prompt += f"""
示例{i}:
文本: {example['text']}
实体: {example['entities']}
"""

    prompt += f"""
现在请识别以下文本中的命名实体:
文本: {text}

实体:
"""

    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "system", "content": "你是一个命名实体识别专家。"},
            {"role": "user", "content": prompt}
        ],
        temperature=0.3
    )

    return response.choices[0].message.content

# 测试
test_text = "赵六在杭州的网易公司担任软件工程师。"
result = few_shot_ner(test_text)
print(result)

def few_shot_qa(document, question):
    """Few-shot问答"""

    examples = [
        {
            'document': 'Python是一种高级编程语言,由Guido van Rossum于1991年创建。',
            'question': 'Python是什么时候创建的?',
            'answer': 'Python于1991年创建。'
        },
        {
            'document': '机器学习是人工智能的一个分支,它使计算机能够从数据中学习。',
            'question': '机器学习是什么?',
            'answer': '机器学习是人工智能的一个分支,它使计算机能够从数据中学习。'
        },
        {
            'document': '深度学习是机器学习的一个子集,使用神经网络进行学习。',
            'question': '深度学习使用什么进行学习?',
            'answer': '深度学习使用神经网络进行学习。'
        },
    ]

    prompt = """
你是一个问答专家。请根据文档回答问题。

示例:
"""

    for i, example in enumerate(examples, 1):
        prompt += f"""
示例{i}:
文档: {example['document']}
问题: {example['question']}
答案: {example['answer']}
"""

    prompt += f"""
现在请根据以下文档回答问题:
文档: {document}
问题: {question}

答案:
"""

    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "system", "content": "你是一个问答专家。"},
            {"role": "user", "content": prompt}
        ],
        temperature=0.3
    )

    return response.choices[0].message.content

# 测试
document = "Transformer是一种深度学习模型架构,由Google在2017年提出,主要用于自然语言处理任务。"
question = "Transformer是什么时候提出的?"
result = few_shot_qa(document, question)
print(result)

def few_shot_code_generation(description, language='python'):
    """Few-shot代码生成"""

    examples = [
        {
            'description': '计算列表中所有数字的平均值',
            'code': '''def average(numbers):
    return sum(numbers) / len(numbers)'''
        },
        {
            'description': '检查一个数字是否为质数',
            'code': '''def is_prime(n):
    if n < 2:
        return False
    for i in range(2, int(n**0.5) + 1):
        if n % i == 0:
            return False
    return True'''
        },
        {
            'description': '反转字符串',
            'code': '''def reverse_string(s):
    return s[::-1]'''
        },
    ]

    prompt = f"""
你是一个代码生成专家。请根据描述生成{language}代码。

示例:
"""

    for i, example in enumerate(examples, 1):
        prompt += f"""
示例{i}:
描述: {example['description']}
代码:
```{language}

{example['code']}

```text
"""

    prompt += f"""
现在请根据以下描述生成代码:
描述: {description}

代码:
```{language}

"""

    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "system", "content": "你是一个代码生成专家。"},
            {"role": "user", "content": prompt}
        ],
        temperature=0.3
    )

    return response.choices[0].message.content

# 测试

description = "计算斐波那契数列的第 n 项"
result = few_shot_code_generation(description, 'Python')
print(result)

from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score

def evaluate_predictions(y_true, y_pred, task_type='classification'):
    """评估预测结果"""

    if task_type == 'classification':
        accuracy = accuracy_score(y_true, y_pred)
        precision = precision_score(y_true, y_pred, average='weighted')
        recall = recall_score(y_true, y_pred, average='weighted')
        f1 = f1_score(y_true, y_pred, average='weighted')

        return {
            'accuracy': accuracy,
            'precision': precision,
            'recall': recall,
            'f1_score': f1
        }
    else:
        # 其他任务的评估
        pass

# 使用示例

y_true = ['正面', '负面', '中性', '正面', '负面']
y_pred = ['正面', '负面', '中性', '正面', '中性']

metrics = evaluate_predictions(y_true, y_pred)
print("评估指标:")
for metric, value in metrics.items():
    print(f"{metric}: {value:.4f}")

from sklearn.model_selection import KFold
import numpy as np

def cross_validate_icl(examples, k=5):
    """上下文学习的交叉验证"""

    kf = KFold(n_splits=k, shuffle=True, random_state=42)
    results = []

    for fold, (train_idx, test_idx) in enumerate(kf.split(examples)):
        print(f"Fold {fold + 1}/{k}")

        # 分割数据
        train_examples = [examples[i] for i in train_idx]
        test_examples = [examples[i] for i in test_idx]

        # 使用训练集作为 Few-shot 示例
        # 这里简化处理,实际需要调用模型
        fold_results = []
        for test_ex in test_examples:
            # 模拟预测
            predicted = test_ex['output']  # 假设预测正确
            fold_results.append({
                'input': test_ex['input'],
                'expected': test_ex['output'],
                'predicted': predicted,
                'correct': predicted == test_ex['output']
            })

        # 计算准确率
        accuracy = sum(r['correct'] for r in fold_results) / len(fold_results)
        results.append({
            'fold': fold + 1,
            'accuracy': accuracy,
            'results': fold_results
        })

        print(f"  Accuracy: {accuracy:.4f}")

    # 计算平均准确率
    avg_accuracy = np.mean([r['accuracy'] for r in results])
    print(f"\nAverage Accuracy: {avg_accuracy:.4f}")

    return results

# 使用示例

examples = [
    {'input': '这个产品太棒了!', 'output': '正面'},
    {'input': '服务态度很差。', 'output': '负面'},
    {'input': '今天天气不错。', 'output': '中性'},
    {'input': '质量很好,性价比高。', 'output': '正面'},
    {'input': '功能不太好用。', 'output': '负面'},
    {'input': '价格合理,值得购买。', 'output': '正面'},
    {'input': '包装破损,不太满意。', 'output': '负面'},
    {'input': '还可以,没有特别突出的地方。', 'output': '中性'},
]

results = cross_validate_icl(examples, k=4)

few_shot_technical_term_prompt = """
你是一个技术术语识别专家。请判断文本是否包含技术术语。

示例:

示例 1:
输入: Python 是一种编程语言。
包含技术术语: 是
技术术语: Python, 编程语言

示例 2:
输入: 今天天气不错。
包含技术术语: 否

示例 3:
输入: 深度学习使用神经网络。
包含技术术语: 是
技术术语: 深度学习, 神经网络

示例 4:
输入: 我喜欢吃苹果。
包含技术术语: 否

现在请判断以下文本:
输入: {text}

包含技术术语: [是/否]
技术术语: [如果有,列出技术术语]
"""

zero_shot_summary_prompt = """
你是一个文本摘要专家。请为以下文本生成摘要。

摘要要求:
1. 准确概括原文主要内容
2. 保持原文的核心观点
3. 使用简洁明了的语言
4. 摘要长度控制在原文的 20%-30%
5. 保持客观中立的语气

原文:
{text}

请生成摘要:
"""

from sentence_transformers import SentenceTransformer
import numpy as np

class DynamicExampleSelector:
    """动态示例选择器"""

    def __init__(self, examples, model_name='all-MiniLM-L6-v2'):
        self.examples = examples
        self.model = SentenceTransformer(model_name)
        self.example_embeddings = self.model.encode(
            [ex['input'] for ex in examples]
        )

    def select_examples(self, test_input, k=5):
        """选择最相似的 k 个示例"""
        test_embedding = self.model.encode([test_input])

        # 计算余弦相似度
        similarities = np.dot(self.example_embeddings, test_embedding.T).flatten()

        # 选择 top-k
        top_indices = np.argsort(similarities)[-k:][::-1]

        return [self.examples[i] for i in top_indices]

# 使用示例

examples = [
    {'input': '这个产品太棒了!', 'output': '正面'},
    {'input': '服务态度很差。', 'output': '负面'},
    {'input': '今天天气不错。', 'output': '中性'},
]

selector = DynamicExampleSelector(examples)
selected = selector.select_examples('这个功能很好', k=2)
print(selected)