Gemma 2를 사용한 텍스트 기반 어드벤처 게임 개발

# Gemma local
 
import keras
import keras_nlp
 
model_name = "gemma2_instruct_2b_en"
 
class GemmaBot():
  __START_TURN_USER__ = "<start_of_turn>user\n"
  __START_TURN_MODEL__ = "<start_of_turn>model\n"
  __END_TURN__ = "<end_of_turn>\n"
 
  def __init__(self, system=""):
    self.model = keras_nlp.models.GemmaCausalLM.from_preset(model_name)
    self.system = system
    self.history = []
 
  def add_to_history_as_user(self, message):
      self.history.append(self.__START_TURN_USER__ + message + self.__END_TURN__)
 
  def add_to_history_as_model(self, message):
      self.history.append(self.__START_TURN_MODEL__ + message)
 
  def get_history(self):
      return "".join([*self.history])
 
  def get_full_prompt(self):
    prompt = self.get_history() + self.__START_TURN_MODEL__
    if len(self.system)>0:
      prompt = self.system + "\n" + prompt
    return prompt
 
  def ask(self, message):
    self.add_to_history_as_user(message)
    prompt = self.get_full_prompt()
    response = self.model.generate(prompt, max_length=2048)
    result = response.replace(prompt, "")  # 새 응답
    self.add_to_history_as_model(result)
    반환 결과만 추출

def __init__(self, system=""):
    self.system = system
    self.history = []
 
:
<-- skip -->
:
 
  def ask(self, message):
    self.add_to_history_as_user(message)
    prompt = self.get_full_prompt()
    response = predict_custom_trained_model_sample(
      project="<YOUR_PROJECT_ID>",
      endpoint_id="<YOUR_ENDPONT_ID>",
      location="<YOUR_LOCATION>",
      api_endpoint="<YOUR_LOCATION>-aiplatform.googleapis.com",
      instances={ "inputs": prompt, "max_tokens": 2048 }
      )
    result = response.replace(prompt, "")  # 새 응답
    self.add_to_history_as_model(result)
    반환 결과만 추출

from gemma import GemmaBot
gemma_bot = GemmaBot("당신은 이 외딴섬의 안내자 Storyteller입니다.")
text = gemma_bot.ask("당신은 누구죠?")
print(text)

import StageIntro
current_stage = StageIntro.StageIntro()
 
def game_loop():
    if current_stage.bot is None:
        # stage type that has no bot
        current_stage.process()
        return
 
    resp = ""
    print("-"*80)
    print(f"Type \"{current_stage.cmd_exit}\" if you want to end the conversation.")
    print("-"*80)
 
    if current_stage.preamble != "":
        print(current_stage.preamble)
 
    while resp != current_stage.cmd_exit:
        if resp == "":
            text = current_stage.intro
            current_stage.bot.add_to_history_as_model(text)
        else:
            text = current_stage.bot.ask(resp)
 
        print(text)
        resp = input("\n> ")
 
    prompt(admin_bot.judge(current_stage.bot.get_history()))
 
def check_end_condition():
    if not current_stage.pass_check():
        check = admin_bot.end_of_game()
        print("탈출에 성공하셨나요?")
        print(check)
        if check.lower().startswith("true"):
            print("축하합니다! 섬을 탈출하셨습니다.")
            exit(0)
 
    next_stage = current_stage.next()
    if next_stage is None:
        print("게임 종료")
        exit(0)
 
    return next_stage
 
while True:
    game_loop()
    current_stage = check_end_condition()
    input("더 진행하려면 ENTER 키를 누르세요")

from stage import IStage
from gemma import GemmaBot
 
class StageGate(IStage):
    def __init__(self):
        self.preamble = "눈앞에 모습을 드러내는 강철 문이 막강한 위용을 자랑하며 앞을 가로막습니다. 녹슨 쇠봉에 덩굴이 어지럽게 감겨 있고 강력한 전류가 흐르는 듯 주변의 공기가 윙윙 울립니다.\n이때 Storyteller가 어른거리는 햇살 속에서 반짝이는 모습으로 당신 옆에 나타납니다."
        self.intro = "안녕하세요! 이 섬의 안내자, Storyteller라고 해요.\n우린 출입구까지 왔는데, 어떻게 하실래요?"
        self.bot = GemmaBot("당신은 신비의 섬에서 플레이어를 안내하는 친절하고 유용한 AI 가이드 Storyteller입니다. 플레이어가 역경을 헤쳐 나가며 섬에서 탈출할 방법을 찾도록 돕는 것이 당신의 역할이죠. 당신은 현재 커다란 강철 문 앞에 서 있습니다.")