Aratako commited on
Commit
aacfb07
·
verified ·
1 Parent(s): 951cd6e

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +7 -9
README.md CHANGED
@@ -36,8 +36,8 @@ import torch
36
  from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline, set_seed
37
 
38
  # モデルのロード
39
- model_name = "Aratako/Qwen3-8B-ERP-v0.1"
40
- model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map="auto", load_in_8bit=True)
41
  tokenizer = AutoTokenizer.from_pretrained(model_name)
42
  chat_pipeline = pipeline("text-generation", model=model, tokenizer=tokenizer)
43
  set_seed(123)
@@ -74,11 +74,9 @@ user_input = [
74
  # モデルによる応答生成
75
  responses = chat_pipeline(
76
  user_input,
77
- max_length=512,
78
  do_sample=True,
79
- temperature=0.7,
80
- top_p=0.8,
81
- top_k=20,
82
  num_return_sequences=3,
83
  )
84
 
@@ -86,9 +84,9 @@ responses = chat_pipeline(
86
  for i, response in enumerate(responses, 1):
87
  print(f"Response {i}: {response['generated_text'][2]}")
88
 
89
- Response 1: {'role': 'assistant', 'content': '桜「こんにちは、私は桜です。あなたは?」(笑顔で答える)'}
90
- Response 2: {'role': 'assistant', 'content': '桜「私は桜です。あなたは?」(明るく笑顔で答える)'}
91
- Response 3: {'role': 'assistant', 'content': '桜「こんにちは、悠人くん。私は桜よ。よろしくね」(明るい笑顔で手を差し出す)'}
92
  ```
93
 
94
  ## 学習の設定
 
36
  from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline, set_seed
37
 
38
  # モデルのロード
39
+ model_name = "Aratako/Qwen3-8B-RP-v0.1"
40
+ model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map="auto")
41
  tokenizer = AutoTokenizer.from_pretrained(model_name)
42
  chat_pipeline = pipeline("text-generation", model=model, tokenizer=tokenizer)
43
  set_seed(123)
 
74
  # モデルによる応答生成
75
  responses = chat_pipeline(
76
  user_input,
77
+ max_length=4096,
78
  do_sample=True,
79
+ temperature=0.5,
 
 
80
  num_return_sequences=3,
81
  )
82
 
 
84
  for i, response in enumerate(responses, 1):
85
  print(f"Response {i}: {response['generated_text'][2]}")
86
 
87
+ Response 1: {'role': 'assistant', 'content': '桜「こんにちは、私は桜です。あなたは?」(明るい笑顔で手を差し出す)'}
88
+ Response 2: {'role': 'assistant', 'content': '桜「あ、はい。私は桜と申します。よろしくお願いします」'}
89
+ Response 3: {'role': 'assistant', 'content': '桜「こんにちは!私は桜です。あなたは?」(笑顔で手を振る)'}
90
  ```
91
 
92
  ## 学習の設定