Update SearchEngine Evaluation authored by Christopher Rost's avatar Christopher Rost
# Evaluation der Suchmaschine # Evaluation der Suchmaschine
## Initiales Setup
1. 40 Topics mit Title, Beschreibung und Narrative definiert (10 p.P.) als Json 1. 40 Topics mit Title, Beschreibung und Narrative definiert (10 p.P.) als Json
2. Suchanfrage für Topic -> Top10 Hotels mit jeweils Top10 Reviews (<= 100 Hotel-Review-Paare) 2. Suchanfrage für Topic -> Top10 Hotels mit jeweils Top10 Reviews (<= 100 Hotel-Review-Paare)
3. Vorlage für Relevanzbewertung erzeugt pro Topic 3. Vorlage für Relevanzbewertung erzeugt pro Topic
## Manuelle Relevanzbewerung
4. Jede Hotel-Review-Kombination mit 0 = Nicht relevant, 1 = relevant bewertet (40*10*10 = 4.000 Bewertungen) 4. Jede Hotel-Review-Kombination mit 0 = Nicht relevant, 1 = relevant bewertet (40*10*10 = 4.000 Bewertungen)
5. Precision@k und Recall@k anhand der Bewertungen errechnet
6. Average Precision pro Topic ermittelt ## Effektivitätsanalyse
7. Mean Average Precision für alle Topics ermittelt 5. Suchanfrage für Topics -> Top10 Hotels mit jeweils Top10 Reviews (<= 100 Hotel-Review-Paare)
\ No newline at end of file 6. Precision@k und Recall@k anhand der Bewertungen und deren Ranking errechnet
7. Average Precision pro Topic ermittelt
8. Mean Average Precision für alle Topics ermittelt
\ No newline at end of file