imaginaryfriend/src/service/reply_generator.py

132 lines
6.1 KiB
Python
Raw Normal View History

2016-12-28 19:01:37 +01:00
from src.config import config, redis, tokenizer, trigram_repository
2016-12-27 19:23:49 +01:00
from src.utils import strings_has_equal_letters, capitalize
class ReplyGenerator:
2016-12-11 18:41:40 +01:00
"""
Handles generation of responses for user message
"""
2016-12-27 19:23:49 +01:00
def __init__(self):
2016-12-09 19:37:55 +01:00
self.redis = redis
2016-12-28 19:01:37 +01:00
self.tokenizer = tokenizer
2016-12-27 19:23:49 +01:00
self.trigram_repository = trigram_repository
2017-08-18 02:48:09 +02:00
self.max_wrds = config.getint('grammar', 'max_wrds')
self.max_msgs = config.getint('grammar', 'max_msgs')
2016-12-27 19:23:49 +01:00
self.stop_word = config['grammar']['stop_word']
self.sep = config['grammar']['sep']
2017-08-18 02:48:09 +02:00
self.endsen = config['grammar']['endsen']
2016-12-27 19:23:49 +01:00
2016-12-09 19:37:55 +01:00
def generate(self, message):
2016-12-11 18:41:40 +01:00
"""
2017-08-18 02:48:09 +02:00
Generates response based on given message
2016-12-11 18:41:40 +01:00
:param message: Message
2017-08-18 02:48:09 +02:00
:return:
- response (a message)
- None (if response == message or no message chains was generated)
2016-12-11 18:41:40 +01:00
"""
2017-08-18 02:48:09 +02:00
2016-12-09 19:37:55 +01:00
words = self.tokenizer.extract_words(message)
2017-08-18 02:48:09 +02:00
# TODO explain this
"""
Преобразовываем триграммы в пары слов, чтобы было проще составлять цепочку.
Например [('hello', 'how', 'do'), ('do', 'you', 'feel'), ('feel', 'today', None)] станет
вот таким [('hello', 'how'), ('do', 'you'), ('feel', 'today')]
"""
2016-12-28 19:01:37 +01:00
pairs = [trigram[:-1] for trigram in self.tokenizer.split_to_trigrams(words)]
2017-08-18 02:48:09 +02:00
# TODO explain why it returns what it returns
"""
Генерирует цепочку для КАЖДОЙ пары слов.
Причины для возвращения самого длинного сообщения из всех - нет,
на тот момент казалось что это наилучший вариант
"""
2016-12-28 19:01:37 +01:00
messages = [self.__generate_best_message(chat_id=message.chat_id, pair=pair) for pair in pairs]
2017-08-18 01:01:08 +02:00
longest_message = max(messages, key=len) if len(messages) else None
2016-12-28 19:01:37 +01:00
if longest_message and strings_has_equal_letters(longest_message, ''.join(words)):
2017-08-18 01:01:08 +02:00
return None
2016-12-28 19:01:37 +01:00
return longest_message
2016-12-27 19:23:49 +01:00
def __generate_best_message(self, chat_id, pair):
2017-08-18 02:48:09 +02:00
# TODO explain this method
"""
Метод генерирует несколько (максимум self.max_msgs) различных предложений,
и оставляет лишь то, которое длиннее всех
"""
2016-12-27 19:23:49 +01:00
best_message = ''
2017-08-18 02:48:09 +02:00
for _ in range(self.max_msgs):
2016-12-27 19:23:49 +01:00
generated = self.__generate_sentence(chat_id=chat_id, pair=pair)
if len(generated) > len(best_message):
best_message = generated
# TODO explain the concept of the BEST message
"""
У кого длиннее - тот и победил. Самый тупой алгоритм на свете
"""
2016-12-27 19:23:49 +01:00
return best_message
def __generate_sentence(self, chat_id, pair):
2017-08-18 02:48:09 +02:00
# TODO explain this method
2016-12-09 19:37:55 +01:00
gen_words = []
key = self.sep.join(pair)
2017-08-18 02:48:09 +02:00
# TODO explain this loop
"""
Например приходит пара (привет, бот)
Мы ее преобразуем в строку 'привет$бот' и пишем в key.
Затем итерируемся максимум 50 раз. На каждой итерации:
1. Преобразуем ключ обратно в пару, 'привет$бот' станет вновь (привет, бот)
2. Добавляем в gen_words второе или первое слово из пары, в зависимости от размера gen_words (Вот это как раз и формирует результат)
3. Получаем случайное слово используя пару привет$бот.
4.1. Если слово не нашлось, то прерываем цикл, это означает что у этой пары нет соотношений в базе
4.2. Если слово нашлось, например 'пидор' то формируем новый ключ из пары, например тут станет бот$пидор (key ВСЕГДА будет состоять из 2-х слов) и повторяем
"""
2017-08-18 02:48:09 +02:00
for _ in range(self.max_wrds):
words = key.split(self.sep)
2016-12-09 20:45:50 +01:00
2017-09-20 23:27:07 +02:00
gen_words.append(words[1])
2016-12-09 19:37:55 +01:00
2016-12-27 19:23:49 +01:00
next_word = self.trigram_repository.get_random_reply(chat_id, key)
2016-12-09 20:45:50 +01:00
if next_word is None:
break
key = self.sep.join(words[1:] + [next_word])
2016-12-09 19:37:55 +01:00
2017-08-18 02:48:09 +02:00
# TODO explain what's last word
# Самое последнее слово в сегенирированном ключе
2017-08-18 02:48:09 +02:00
# Append last word unless it is in the list already
last_word = key.split(self.sep)[-1]
2016-12-28 18:12:24 +01:00
if last_word not in gen_words:
gen_words.append(last_word)
2017-08-18 02:48:09 +02:00
# If all words are equal (if set(words) == words[0]), leave just 1 word
if len(set(gen_words)) == 1:
gen_words = list(set(gen_words))
gen_words = [w for w in gen_words if w != self.stop_word]
# TODO maybe move wordlist preparations to some function?
2017-01-04 19:50:01 +01:00
2017-08-18 02:48:09 +02:00
# TODO maybe move generating the sentence to a function?
2016-12-09 19:37:55 +01:00
sentence = ' '.join(gen_words).strip()
2017-08-18 02:48:09 +02:00
if sentence[-1:] not in self.endsen:
# TODO explain this pls:
"""
Если в конце сформированного предложения нету пунктуации (?!.) (мы ведь не вырезаем эти символы),
то добавляем ему случайную (?!.) из config.grammar.endsen
"""
2016-12-09 19:37:55 +01:00
sentence += self.tokenizer.random_end_sentence_token()
2017-08-20 22:08:11 +02:00
sentence = capitalize(sentence)
2017-08-18 02:48:09 +02:00
# TODO my intuition tells me we shouldn't return fun(obj), but IDK really
"""
Не знал о таком стандарте в питоне или что это плохо, зачем лишняя переменная?
"""
2017-08-18 02:48:09 +02:00
return sentence