Seite wählen

NETWAYS Blog

OSMC 2022 | AI Driven Observability based on Open Source

Observability and monitoring of resources are growing every day and it is inevitable to analyse all the data points to arrive at a solution. At Mercedes-Benz they have developed an Open Source data metric analyzer and drive it with data science to identify anomalies. At OSMC 2022, Satish Karunakaran, a data scientist with 19 years of experience in the field, presented how they established the entire data processing ecosystem based on Open Source.

In the beginning of his talk, Satish immediately questioned how much value can be generated manually out of Big Data, since metrics, logs and traces all provide intelligence. His point was not about scalability, management (manual patching) versus unmanaged (self-healing) here, but how to optimize for prediction and detection of failures.

Following up, the question arose what is normal, and how to determine normality versus abnormality.

 

Especially cases of „looks normal, but not sure“ or „better than last week, but something is wrong“ could be optimized with a data driven approach.

The idea is the following: 1) Collect lots of functional & correct data (as much as possible, as long as possible). 2a) Use lots of nested if conditions: Check if a value / limit ( 3 < 5 = yes ) has been reached, and if so, get more and more granular ( 3 < 4 =yes ) and split up based on previous choices (3 < 3 = false). This is also called a decision-tree. 2b ) Create labelling tags. 2c) Make this process highly parallel via scalable, distributed, gradient-boosted decision trees (XGBoost).

Boosting comes from the idea of improving single weak models by combining them with other weak models, in order to generate a strong model! Gradient boosting is an improved supervised learning variant if this, which takes labeled training data as input, and tries to correctly predict each training example – to label future data.

TLDR: If we know what is healthy, because if we have lots of healthy data, and are able to labelpredict each next data point to the real world (not necessarily watching what is happening, but predicting what will happen), and suddenly our predictions do not match, then we have an abnormality and should call an alert! Or, if you prefer to watch an AI explain XGBoost:

This morning I came across a cool demo by @LinusEkenstam about creating animated AI-generated characters. I decided to give it a try, and, with slight modifications, this is what I ended up with. pic.twitter.com/e2vx9OP0Ls

— Bojan Tunguz (@tunguz) January 18, 2023

Unfortunately compared to Neural Nets, XGBoost appears slow and memory intense with many decision-branches, wheares Neural Nets allow scalability and optimization – due to being able to optimize and drop for hidden functions. Additionally, one tries to converge for the maximum (XGBoost), and the other tries to converge for the minimum (Neural Nets). So combining both and getting the best possible tag tag-prediction is the art of someone who does this for quite a long time, like Satish!

An example of how Satish and his team implemented this can be seen in this picture, which displays the path of data flow, data orchestration and visualization.

Do you think all monitoring should follow an AI based anomaly approach?

Would you find it cool if all monitoring solutions one day would have predictive models? And how would they deal with statistical outliers? Maybe lots of human time wasted could be saved, if we could focus on „the essentials“? Would you like to hear more about about data science & AI at further NETWAYS Events or like to talk to Icinga developers about this fascinating topic? Please feel free to contact us!

The recording and slides of this talk and all other OSMC talks can be found in our Archives. Check it out! We hope to see you around at OSMC 2023! Stay in touch and subscribe to our Newsletter!

AI – Artificial Intelligence (Was ist das? Ist das Gefährlich?)

Heute mal was anderes:

Da ich mich in letzter Zeit mehr mit dem Thema AI/KI beschäftige, bot es sich für mich an einen kurzen Blogpost über dieses Thema zu schreiben.

Was ist AI/KI?

AI steht für „Artificial Intelligence„, zu deutsch „Künstliche Intelligenz (KI)
Schauen wir uns ein normales Programm an. Nach einer Reihe von Abläufen passiert etwas, dass nicht vorgesehen war und das Programm crasht mit einem Fehlercode, den man dann Googlen muss um in einem Forum auf eine Lösung zu stoßen.
Wenn wir uns jetzt eine KI anschauen, fällt uns schnell die Parallele zum Menschen auf. Die KI lernt nach dem Eintreten dieses unerwarteten Ereignisses, automatisch, wie man dieses vermeidet und den daraus resultierenden Error behebt.
Bill Gates hat das Ausmaß einer KI anhand eines Beispiels erklärt, das ich nun auch verwenden will.
Die Evolution hat uns mit einem sehr fortschrittlichen Algorythmus ausgestattet, der allerdings auf einem sehr langsamen Computer läuft. Limitierter Arbeitsspeicher, die Möglichkeit Informationen über Gestik und Sprache an andere Computer zu versenden und auch die Möglichkeit diese, über die Ohren, zu empfangen. Dieser Menschliche-Algorythmus ist allerdings so gut, dass er Erfahrung in Wissen umwandeln kann. Wenn wir das auf Softwareebene realisieren würden, könnten wir nicht wissen was passiert. Der Mensch ist durch eine langsame Evolution in seiner Weiterentwicklung limitiert, der fortschritt der Technik nicht. Im Gegenteil, der Fortschritt der Technik ist durch den Menschen limitiert. Würde eine KI mit genügend Rechenleistung sich weiterentwickeln, würde der für uns rasante Fortschritt der Technik, noch schneller gehen. Der Computer, bzw. die KI, wäre uns in jeder Art und Weise überlegen. Die Rechenleistung des Computers, auf dem die KI läuft, entscheidet hierbei die Geschwindigkeit, des Lernens, der KI.

Erste Ereignisse, bei denen der Computer den Menschen besiegte:

Deep Blue” war ein von IBM entwickelter Schachroboter, der aus dem vorherigen Projekt “Deep Thought” resultierte. 1996 gelang es Deep Blue den damaligen Schachweltmeister Garri Kasparow nach dem 90. Zug zur Kapitulation zu zwingen.

Google DeepMindsAlphaGo” ist eine weitaus leistungsstärkere KI als die damalige von IBM entwickelte Deep Blue-KI. AlphaGo hat 2016 den amtierenden Champion des Chinesischen Brettspiel “Go” nach einer Runde besiegt.

Warum ist der Erfolg von AlphaGo höher zu werten als der von Deep Blue?

Das Spiel “Go” bietet mehr Spielzüge an als Schach. Bei Go sind mehr Spielzüge möglich als es Atome im Universum gibt, sodass es unmöglich ist jeden möglichen Ausgang vorherzusehen und so eine Niederlage abzuwenden. Schach hat eine limitierte Zahl an Zügen, sodass das Simulieren eines Spielzugs für den Computer kaum ein Problem darstellt.

Warum ist AlphaGo, DeepBlue überlegen?

AlphaGo arbeitet mit dem “Deep Reinforcement Learning” was unserer Menschlichen Art zu lernen sehr nahe kommt. Es ist im Prinzip nur Try-and-Error, Reward-and-Punishment und Raw-Input. Der Computer lernt selber wie er in diesem Spiel gut wird.
Im Internet ist ein Video viral gegangen. In dem Video wird gezeigt wie ein Computer lernt “Super Mario World” zu spielen. Der Twitch-Streamer und Youtuber „SethBling“, schrieb diese KI und nannte sie „MarI/O“. Anders als bei anderen KIs, wurde MarI/O nicht gezeigt wie er das Spiel spielt oder gar wie die Steuerung lautet. Die KI musste selber lernen, wie es dieses Spiel spielt.

Deep Blue ging dagegen, im Spiel gegen Kasparow mit einer ganz banalen Methode vor. Nach jedem Zug, ging er jeden möglichen Ausgang des Spiels durch und errechnete eine Wahrscheinlichkeit um den nächsten Zug vorherzusehen und direkt auszukontern.

Forscher warnen vor Gefahren!

Durch Filme, wie zum Beispiel „Terminator“ oder „iRobot“,  wird uns oft auf unterhaltende Art und Weise gezeigt, welche Gefahren beim entwickeln von KIs bestehen. Jedoch ist das ja nur Sci-Fi, oder? Der Astrophysiker Steven Hawking ist der Meinung, dass KI die größte Entwicklung in der Geschichte der Zivilisation sein kann.

„Success in creating AI, could be the biggest event in the History of our Civilization. Alongside the benefits, it brings Dangers, like powerful Atonomous Weapons […] it could bring great distruption to our Economy […] AI could develop a will of its own, that stands in conflict with ours.“
~ Steven Hawking

„But I think, the development of a full Artificial Intelligence, could spell the end of the Human race.“
~ Steven Hawking

Steven Hawking ist nicht der einzige der vor den Gefahren warnt. Tesla und SpaceX CEO Elon Musk ist der Meinung, dass KI der Auslöser für den dritten Weltkrieg sein könnte.

„The pace of progress in artificial intelligence […] is incredibly fast. […] The risk of something seriously dangerous happening is in the five-year timeframe. 10 years at most.“
~ Elon Musk

„There certainly will be job disruption. Because what’s going to happen is robots will be able to do everything better than us. … I mean all of us […] I am not sure exactly what to do about this. This is really the scariest problem to me“
~ Elon Musk

„If you’re not concerned about AI safety, you should be.“
~ Elon Musk

„AI is a rare case where I think we need to be proactive in regulation than be reactive“
~ Elon Musk

Russischer Präsident Vladimir Putin ist der Meinung, dass das Land das als erstes eine vollfunktionsfähige KI besitzt, die Welt regieren werde.

„It comes with colossal opportunities, but also threats that are difficult to predict. Whoever becomes the leader in this sphere will become the ruler of the world.“
~ Vladimir Putin

Meine Meinung

Meiner Meinung nach, ist KI ein sehr wichtiges Thema, wenn es um Technologie geht. Künstliche Intelligenz könnte sehr vieles bedeuten und es liegt in unserer Hand zu entscheiden, ob die Bedeutung nun Negativ oder Positiv ausfällt. Ich hoffe ich konnte einen kleinen Einblick bringen, Informieren und zu Diskussionen anregen.