Sådan bruges awk-kommandoen på Linux

På Linux  awker der en kommandolinjedynamik til tekstmanipulation samt et stærkt script-sprog. Her er en introduktion til nogle af de sejeste funktioner.

Hvor ubehageligt fik sit navn

Den  awk kommando blev opkaldt hjælp initialer de tre mennesker, der skrev den oprindelige version i 1977: Alfred Aho, Peter Weinberger, og Brian Kernighan. Disse tre mænd var fra det legendariske AT&T Bell Laboratories Unix pantheon. Med bidrag fra mange andre siden da awk har den fortsat udviklet sig.

Det er et komplet scriptingsprog såvel som et komplet værktøj til tekstmanipulation til kommandolinjen. Hvis denne artikel giver din appetit, kan du tjekke alle detaljer om  awk og dens funktionalitet.

Regler, mønstre og handlinger

awkarbejder på programmer, der indeholder regler, der består af mønstre og handlinger. Handlingen udføres på den tekst, der matcher mønsteret. Mønstre er lukket i krøllede seler ( {}). Sammen udgør et mønster og en handling en regel. Hele awkprogrammet er indeholdt i enkelte citater ( ').

Lad os se på den enkleste type awkprogram. Det har ikke noget mønster, så det matcher hver linje tekst, der indføres i det. Dette betyder, at handlingen udføres på hver linje. Vi bruger det på output fra whokommandoen.

Her er standardoutput fra who:

WHO

Måske har vi ikke brug for alle disse oplysninger, men snarere bare vil se navnene på regnskabet. Vi kan føre output fra whoind awki og derefter fortælle awkat kun udskrive det første felt.

Som standard awkbetragter et felt som en streng af tegn omgivet af mellemrum, starten på en linje eller slutningen af ​​en linje. Felter identificeres med et dollartegn ( $) og et tal. Så det  $1repræsenterer det første felt, som vi bruger sammen med print handlingen til at udskrive det første felt.

Vi skriver følgende:

hvem | awk '{udskriv $ 1}'

awk udskriver det første felt og kasserer resten af ​​linjen.

Vi kan udskrive så mange felter, som vi vil. Hvis vi tilføjer et komma som en separator,  awkudskrives et mellemrum mellem hvert felt.

Vi skriver følgende for også at udskrive det tidspunkt, hvor personen er logget ind (felt fire):

hvem | awk '{udskriv $ 1, $ 4}'

Der er et par specielle feltidentifikatorer. Disse repræsenterer hele tekstlinjen og det sidste felt i tekstlinjen:

  • $ 0 : repræsenterer hele tekstlinjen.
  • $ 1 : repræsenterer det første felt.
  • $ 2 : Repræsenterer det andet felt.
  • $ 7 : Repræsenterer det syvende felt.
  • $ 45 : Repræsenterer det 45. felt.
  • $ NF : Står for "antal felter" og repræsenterer det sidste felt.

Vi skriver følgende for at hente en lille tekstfil, der indeholder et kort tilbud tilskrevet Dennis Ritchie:

kat dennis_ritchie.txt

Vi vil  awkudskrive det første, andet og sidste felt i tilbudet. Bemærk, at selvom det er pakket rundt i terminalvinduet, er det bare en enkelt tekstlinje.

Vi skriver følgende kommando:

awk '{udskriv $ 1, $ 2, $ NF}' dennis_ritchie.txt

Vi kender ikke den ”enkelhed”. er det 18. felt i tekstlinjen, og vi er ligeglade. Det vi ved er, at det er det sidste felt, og vi kan bruge $NFtil at få dets værdi. Perioden betragtes bare som en anden karakter i markens krop.

Tilføjelse af outputfeltadskillere

Du kan også fortælle awkat udskrive et bestemt tegn mellem felter i stedet for standardtegnet for mellemrum. Standardoutputtet fra  datekommandoen er lidt ejendommeligt, fordi tiden er plonked lige midt i den. Vi kan dog skrive følgende og bruge awktil at udtrække de felter, vi ønsker:

dato
dato | awk '{print $ 2, $ 3, $ 6}'

Vi bruger OFS variablen (outputfeltadskiller) til at placere en separator mellem måned, dag og år. Bemærk, at nedenfor lukker vi kommandoen i enkelt anførselstegn ( '), ikke krøllede seler ( {}):

dato | awk 'OFS = "/" {udskriv $ 2, $ 3, $ 6}'
dato | awk 'OFS = "-" {udskriv $ 2, $ 3, $ 6}'

BEGIN og END reglerne

En BEGINregel udføres en gang, før tekstbehandlingen starter. Faktisk udføres den, før den awk endda læser nogen tekst. En ENDregel udføres, når al behandling er afsluttet. Du kan have flere BEGIN og  ENDregler, og de udføres i rækkefølge.

For vores eksempel på en BEGINregel udskriver vi hele citatet fra den dennis_ritchie.txtfil, vi tidligere brugte med en titel over den.

For at gøre det skriver vi denne kommando:

awk 'BEGIN {print "Dennis Ritchie"} {print $0}' dennis_ritchie.txt

Note the BEGIN rule has its own set of actions enclosed within its own set of curly braces ({}).

We can use this same technique with the command we used previously to pipe output from who into awk. To do so, we type the following:

who | awk 'BEGIN {print "Active Sessions"} {print $1,$4}'

Input Field Separators

If you want awk to work with text that doesn’t use whitespace to separate fields, you have to tell it which character the text uses as the field separator. For example, the /etc/passwd file uses a colon (:) to separate fields.

We’ll use that file and the -F (separator string) option to tell awk to use the colon (:) as the separator. We type the following to tell awk to print the name of the user account and the home folder:

awk -F: '{print $1,$6}' /etc/passwd

The output contains the name of the user account (or application or daemon name) and the home folder (or the location of the application).

Adding Patterns

If all we’re interested in are regular user accounts, we can include a pattern with our print action to filter out all other entries. Because User ID numbers are equal to, or greater than, 1,000, we can base our filter on that information.

We type the following to execute our print action only when the third field ($3) contains a value of 1,000 or greater:

awk -F: '$3 >= 1000 {print $1,$6}' /etc/passwd

The pattern should immediately precede the action with which it’s associated.

We can use the BEGIN rule to provide a title for our little report. We type the following, using the (\n) notation to insert a newline character into the title string:

awk -F: 'BEGIN {print "User Accounts\n-------------"} $3 >= 1000 {print $1,$6}' /etc/passwd

Patterns are full-fledged regular expressions, and they’re one of the glories of awk.

Let’s say we want to see the universally unique identifiers (UUIDs) of the mounted file systems. If we search through the /etc/fstab file for occurrences of the string “UUID,” it ought to return that information for us.

We use the search pattern “/UUID/” in our command:

awk '/UUID/ {print $0}' /etc/fstab

It finds all occurrences of “UUID” and prints those lines. We actually would’ve gotten the same result without the print action because the default action prints the entire line of text. For clarity, though, it’s often useful to be explicit. When you look through a script or your history file, you’ll be glad you left clues for yourself.

The first line found was a comment line, and although the “UUID” string is in the middle of it, awk still found it. We can tweak the regular expression and tell awk to process only lines that start with “UUID.” To do so, we type the following which includes the start of line token (^):

awk '/^UUID/ {print $0}' /etc/fstab

That’s better! Now, we only see genuine mount instructions. To refine the output even further, we type the following and restrict the display to the first field:

awk '/^UUID/ {print $1}' /etc/fstab

If we had multiple file systems mounted on this machine, we’d get a neat table of their UUIDs.

Built-In Functions

awk has many functions you can call and use in your own programs, both from the command line and in scripts. If you do some digging, you’ll find it very fruitful.

To demonstrate the general technique to call a function, we’ll look at some numeric ones. For example, the following prints the square root of 625:

awk 'BEGIN { print sqrt(625)}'

This command prints the arctangent of 0 (zero) and -1 (which happens to be the mathematical constant, pi):

awk 'BEGIN {print atan2(0, -1)}'

In the following command, we modify the result of the atan2() function before we print it:

awk 'BEGIN {print atan2(0, -1)*100}'

Functions can accept expressions as parameters. For example, here’s a convoluted way to ask for the square root of 25:

awk 'BEGIN { print sqrt((2+3)*5)}'

awk Scripts

If your command line gets complicated, or you develop a routine you know you’ll want to use again, you can transfer your awk command into a script.

In our example script, we’re going to do all of the following:

  • Tell the shell which executable to use to run the script.
  • Prepare awk to use the FS field separator variable to read input text with fields separated by colons (:).
  • Use the OFS output field separator to tell awk to use colons (:) to separate fields in the output.
  • Set a counter to 0 (zero).
  • Set the second field of each line of text to a blank value (it’s always an “x,” so we don’t need to see it).
  • Print the line with the modified second field.
  • Increment the counter.
  • Print the value of the counter.

Our script is shown below.

The BEGIN rule carries out the preparatory steps, while the END rule displays the counter value. The middle rule (which has no name, nor pattern so it matches every line) modifies the second field, prints the line, and increments the counter.

The first line of the script tells the shell which executable to use (awk, in our example) to run the script. It also passes the -f (filename) option to awk, which informs it the text it’s going to process will come from a file. We’ll pass the filename to the script when we run it.

We’ve included the script below as text so you can cut and paste:

#!/usr/bin/awk -f  BEGIN { # set the input and output field separators FS=":" OFS=":" # zero the accounts counter accounts=0 } { # set field 2 to nothing $2="" # print the entire line print $0 # count another account accounts++ } END { # print the results print accounts " accounts.\n" }

Save this in a file called omit.awk. To make the script executable, we type the following using chmod:

chmod +x omit.awk

Now, we’ll run it and pass the /etc/passwd file to the script. This is the file awk will process for us, using the rules within the script:

./omit.awk /etc/passwd

The file is processed and each line is displayed, as shown below.

The “x” entries in the second field were removed, but note the field separators are still present. The lines are counted and the total is given at the bottom of the output.

awk Doesn’t Stand for Awkward

awk doesn’t stand for awkward; it stands for elegance. It’s been described as a processing filter and a report writer. More accurately, it’s both of these, or, rather, a tool you can use for both of these tasks. In just a few lines, awk achieves what requires extensive coding in a traditional language.

Denne kraft udnyttes af det enkle koncept med regler, der indeholder mønstre, der vælger teksten, der skal behandles, og handlinger, der definerer behandlingen.