電腦科學裏面,lex是一個產生詞法分析器(lexical analyzer,"掃描器"(scanners)或者"lexers")的程式[1][2] Lex常常與yacc 語法剖析器產生程式(parser generator)一起使用。Lex(最早是埃里克·施密特邁克·萊斯克製作)是許多UNIX系統的標準詞法剖析器(lexical analyzer)產生程式,而且這個工具所作的行為被詳列為POSIX標準的一部分。

Lex
原作者Mike Lesk, Eric Schmidt
首次發佈1975年,​49年前​(1975
原始碼庫 編輯維基數據連結
作業系統Unix類Unix系統
類型命令

Lex讀進一個代表詞法剖析器規則的輸入字串流,然後輸出以C語言實做的詞法剖析器原始碼

雖然傳統上是商業軟件,但是有些根據原本AT&T程式碼這些版本的Lex可以以公開原始碼的形式獲得,並被視為某些系統的一部份,例如說OpenSolaris貝爾實驗室九號計劃。另一個有名的Lex公開原始碼版本是flex,代表"快速的詞法剖析器"(fast lexical analyzer)

lex檔案的結構

編輯

lex的檔案結構故意設計的與yacc的檔案格式相似;檔案分成三個區塊,均以一個只有兩個百分比符號(%)的單行來分隔,如下:

定義區塊
%%
規則區塊
%%
C程式碼區塊
  • 定義區塊是用來定義巨集以及匯入C寫成的表頭檔所在區塊。在這裏面也可以寫一些C程式碼,這一些程式碼會被複製到產生出來的C原始碼的開頭部份。
  • 規則區塊是最重要的區塊;這裏將樣式與C的陳述(statement)串連在一起。這一些樣式都是正規表式。當lexer看到輸入裏面有合乎給定的樣式時,則會操作相對應的C程式碼。這就是lex運作的基礎。
  • C程式碼區塊包含C的陳述與函數(function)會原封不動的照搬到產生出來的C原始碼裏面。這些陳述一般假設包含了在規則區塊裏面,各個規則分別呼叫的原始碼。在大型程式裏面,將這一些程式放在其他分開的檔案並且在編譯階段作連接會更方便(在進行修改跟擴充的時候)。

lex檔案範例

編輯

下面是一個flex版本的lex檔案的範例。這個程式可以找出表示數字(整數)的字串,並將它們列印出來。

/*** 定義區塊***/

%{
/* 會直接照搬放檔頭的C code */
#include <stdio.h>
%}

/* 這裡告訴flex只要讀取輸入的檔案(不需要其他檔案)*/
%option noyywrap

%%
    /*** 規則區塊***/

    /* [0-9]+代表包含一個或多個數字的字串*/
[0-9]+  {
            /* yytext是一個字串變數,內容是符合規則的字串本身。*/
            printf("Saw an integer: %s\n", yytext);
        }

.       {   /* 忽略所有其他的字*/   }

%%
/*** C程式碼區塊***/

int main(void)
{
    /* 呼叫lexer,然後結束程式*/
    yylex();
    return 0;
}

將這個檔案輸入給flex,它會將這個檔案轉換成一個C檔案,檔名lex.yy.c。這個C檔案可以被編譯成一份可執行檔,功能為找出並且輸出代表整數的字串。例如,給定輸入:

abc123z.!&*2ghj6

這隻程式會印出:

Saw an integer: 123
Saw an integer: 2
Saw an integer: 6

Lex和其他工具並用

編輯

Lex和語法分析產生程式(parser generator)並用

編輯

Lex和語法剖析器產生程式,例如說Yacc或者Bison之類,常常一起使用。語法剖析器產生程式使用形式文法來分析輸入字串流(input stream),這是Lex使用簡單的正則表達式所作不到的事情(Lex的設計被限制於只能使用有限狀態自動機)。然而,語法剖析器產生程式不能直接讀取簡單的輸入字串流–他們需要使用一系列的單詞(token)。Lex則常常被使用來提供語法剖析器產生程式這一些單詞。

Lex和make

編輯

make是一個便利程式(utility),在這裏我們用它來維護跟lex相關的程式。make假設副檔名是.l的檔案是一個lex原始碼檔案。make內部的巨集LFLAGS可以用來詳列make自動觸發的lex選項。[3]

相關條目

編輯

參考文獻

編輯
  1. ^ Levine, John R; Mason, Tony; Brown, Doug. LEX & YACC 2. O'Reilly. 1992: 1–2 [2010-03-16]. ISBN 1-56592-000-7. (原始內容存檔於2014-12-02). 
  2. ^ Levine, John. flex & bison. O'Reilly Media. August 2009: 304 [2010-03-16]. ISBN 978-0-596-15597-1. (原始內容存檔於2011-08-16). 
  3. ^ make, The Open Group Base Specifications Issue 6, IEEE Std 1003.1, 2004 Edition (The IEEE and The Open Group), 2004 [2010-03-16], (原始內容存檔於2010-10-31) 

外部連結

編輯