Lexer

Ein Lexer ist ein lexikalischer Scanner, welcher beispielsweise in der Phase der lexikalischen Analyse von Compilern eingesetzt wird. Dabei wird eine Folge von Eingaben nach den Regeln einer regulären Grammatik in sog. Tokens umgewandelt. Ein Token ist  eine lexikalische Grundeinheit welche von einem Parser bearbeitet wird: ein Textfragment mit einer grammatikalischen Bedeutung. In der Phase des Parsens wird das Token mit einem Terminalsymbol einer bestimmten Grammatik abgeglichen. Falls das Token zu  dem Terminalsymbol passt, kann die dazugehörige Regel dieser Grammatik umgesetzt werden. Der Scanner filtert aus dem Quellcode Schlüsselwörter, Operatoren, Konstanten und Bezeichner heraus. Er ist ein oft vorgeschalteter spezieller Parser, welcher Tokens  erkennt und mit dem jeweiligen Typ ausgibt, wonach der eigentliche Parser seine Arbeit aufnimmt.                                                   
Siehe auch:    Parser   Compiler   Interpreter   Semantik   Syntax