Seite wählen

Neues in logstash 1.2.x

von | Sep 11, 2013 | DevOps, Elastic Stack

Ein Highlight der letzten PuppetConf war mit Sicherheit der Vortrag von Jordan Sissel zum Thema Logstash. Für Nutzer von Logstash war zwar nicht soviel Neues dabei, doch machte die ein oder andere Ankündigung für die neue Version neugierig und der Stil seines Vortrags war hinzu noch sehr unterhaltsam.

jordan_logstash

Logstash ist ein Werkzeug für das Management von Logdateien und man kann es sich grundsätzlich wie eine Art „Pipe“ mit verschiedenen Ein- und Ausgabeformaten vorstellen. Die Log-Informationen werden also via File, Socket oder diversen anderen Inputs angenommen, gefiltert, getagged und weitergeleitet. Logstash selbst hält keine Daten vor, sondern sorgt „lediglich“ für die konkrete Bearbeitung und Weiterleitung. Für die spätere Analyse setzt logstash auf elasticsearch als Datenhaltungsbackend.
Seit einigen Tagen steht nun die neue Version von logstash zur Verfügung, aber was gibt es Neues:

  • Neues Webinterface
    Man hatte fast den Eindruck dass Jordan etwas Scham beim Anblick seiner früheren Eigenentwicklung von logstash-web bekommen hat, aber man kann eben als Einzelkämpfer nicht alles perfekt lösen. Hier hat das Projekt Unterstützung von Rashid Khan bekommen und liefert ab sofort Kibana in der Version 3 mit aus. Das Javascript-Frontend läuft vollständig ohne Serverkomponenten und greift direkt auf das REST-Interface von elasticsearch zu.
  • Conditionals
    Viele Anwender wünschen sich dieses Feature seit langer Zeit und mit Version 1.2.x ist es nun endlich soweit. Zwar konnte man in der Vergangenheit bereits mit Tags ähnliche Ergebnisse erzielen, aber die integrierten Bedingungen erleichtern einem deutlich die praktische Arbeit. So ist bspw. eine Abfrage auf Umgebung und Loglevel möglich, welche dann nur kritische Events an das Monitoring-System oder einen Email-Account weiterleitet.Ein Beispiel:

    output {
      # Send production errors to nagios/icinga
      if [loglevel] == "ERROR" and [deployment] == "production" {
        nagios {
          ...
        }
      }
    }
  • elasticsearch Bulk API
    Wie der Name vermuten lässt erlaubt elasticsearch mit Hilfe der Bulk API die gleichzeitige Ausführung von mehreren Operationen in einem Request. Bei großen Umgebungen konnte es in früheren Versionen durchaus manchmal zu Schwierigkeiten in der Verarbeitung kommen, welche sich durch die neuen Bulk-Requests und das optimierte JSON-Schema deutlich vermindern lassen.

Zu den beschriebenen Features gibt es noch eine ganze Menge neuer In- und Outputs sowie viele kleine Optimierungen hinsichtlich Performance und Usability. Logstash ist ein tolles Werkzeug und ich werde auch bei der kommenden OSMC die Gelegenheit nutzen, Logstash und ein paar Tools drumherum vorzustellen. Logstash und die Tatsache, dass die Gold-Pakete langsam knapp werden sollte eigentlich Motivation genug sein, den Anmeldebutton zu betätigen.

Bernd Erk
Bernd Erk
CEO

Bernd ist Geschäftsführer der NETWAYS Gruppe und verantwortet die Strategie und das Tagesgeschäft. Bei NETWAYS kümmert er sich eigentlich um alles, was andere nicht machen wollen oder können (meistens eher wollen). Darüber hinaus startete er früher das wöchentliche Lexware-Backup, welches er nun endlich automatisiert hat. So investiert er seine ganze Energie in den Rest der Truppe und versucht für kollektives Glück zu sorgen. In seiner Freizeit macht er mit sinnlosen Ideen seine Frau verrückt und verbündet sich dafür mit seinen beiden Söhnen und seiner Tochter.

5 Kommentare

  1. Wolfsrudel

    Wer 1.1.13 am laufen hat und nicht zwingend schnell umsteigen muss, sollte lieber warte. Unter jira.logstash.com sind einige viele Tickets zum neuen Release offen (zumal es schon 1.2.1 gibt ;)).
    Das Upgrade ist auch nicht gerade einfach, da die Anpassungen an der Konfiguration – ja nach Ausmaß der vorhandenen – sehr weitreichend sein können.
    Bei mir läuft 1.2.1 – Vorteile haben sich _noch_ nicht ergeben.
    BTW: Elasticsearch hat Jordan jetzt annektiert. 🙂 –

    Antworten
  2. Bernd Erk

    Danke für den Update-Hinweis. Ich hab das hier an ein paar Demos versucht und bisher keine großen Fehler feststellen können. Das mit Elasticsearch ist lustig, da ihn kurz nach dem Talk zwei Damen „belästigt“ haben. Anscheinend mit Erfolg!

    Antworten
  3. Wolfsrudel

    Wie gesagt, das kommt auf die Konfiguration drauf an. Meine Konfigurationen (shipper, indexer) umfassen 500 bis 700 Zeilen. 😉
    Das LS-Buch wurde auch für die neue Version aktualisiert: http://logstashbook.com/
    Du hättest mir ein paar Logstash-Aufkleber mitbringen könne. 😀

    Antworten
  4. Bernd Erk

    Wer sagt dass ich keine Aufkleber habe 🙂

    Antworten
  5. Wolfsrudel

    ICH habe keine. 🙁

    Antworten

Trackbacks/Pingbacks

  1. Weekly Snap: Logstash, Unattended Upgrades & Update Alternatives › NETWAYS Blog - […] gave us the latest developments in Logstash 1.2.x straight off his notes from his recent visit to PuppetConf and…

Einen Kommentar abschicken

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Mehr Beiträge zum Thema DevOps | Elastic Stack

Kibana Sicherheits-Updates: CVSS:Critical

Und täglich grüßt das Murmeltier. Nein nicht ganz. Heute ist es  aus der Elastic Stack Werkzeugkiste Kibana, für das es ein wichtiges Sicherheits-Update gibt. Es besteht auf jeden Fall Handlungsbedarf! IMHO auch wenn ihr die "Reporting" Funktion deaktiviert habt. Der...