- Генерация текста.
Одним из наиболее распространенных применений языковых моделей является генерация текста. Давайте рассмотрим простой пример кода с использованием популярной библиотеки Python Hugging Face’s Transformers:
from transformers import GPT2LMHeadModel, GPT2Tokenizer
tokenizer = GPT2Tokenizer.from_pretrained('gpt2')
model = GPT2LMHeadModel.from_pretrained('gpt2')
input_text = "Once upon a time, in a land far away"
input_ids = tokenizer.encode(input_text, return_tensors='pt')
output = model.generate(input_ids, max_length=100, num_return_sequences=1)
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(generated_text)
from transformers import MarianMTModel, MarianTokenizer
tokenizer = MarianTokenizer.from_pretrained('Helsinki-NLP/opus-mt-en-fr')
model = MarianMTModel.from_pretrained('Helsinki-NLP/opus-mt-en-fr')
input_text = "Hello, how are you?"
input_ids = tokenizer.encode(input_text, return_tensors='pt')
output = model.generate(input_ids, max_length=100, num_return_sequences=1)
translated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(translated_text)
from transformers import pipeline
nlp = pipeline('question-answering', model='distilbert-base-cased-distilled-squad', tokenizer='distilbert-base-cased-distilled-squad')
context = "The Eiffel Tower is a wrought-iron lattice tower located on the Champ de Mars in Paris, France."
question = "Where is the Eiffel Tower located?"
answer = nlp(question=question, context=context)
print(answer['answer'])
разработчики могут использовать возможности языковых моделей для создания интеллектуальных приложений.