Dynamische Systeme - Gesamt
Christoph Krall studierte Genetik und Mathematik an den Universitäten Innsbruck, Salzburg und Wien und ist Lektor für Statistik an der Universität Wien sowie an der Technischen Universität Wien.
Derzeit arbeitet er am Institut für Medizinische Statistik der Medizinischen Universität Wien.
Dynamische Systeme
Dynamische Systeme In Lektion zwei ging es um die Optimierung eines Systems, indem die Zeit keine Rolle spielt: gesucht wurden Extremwerte einer Funktion oder , allenfalls unter Nebenbedingungen; die Zielfunktion war vorgegeben und unveränderlich, daher wird eine einmal gefundene optimale Lösung immer optimal bleiben. In der Praxis hat man es hingegen häufig mit Systemen zu tun, die sich im Wandel befinden, d.h., die Funktion in der freien Variablen verändert sich mit der Zeit und wird als beschrieben. Solche mit der Zeit veränderliche Systeme werden als dynamisch bezeichnet. Man unterscheidet zwischen deterministischen und stochastischen Systemen. Sind bei einem deterministischen System die Anfangsbedingungen bekannt, so ist der weitere Verlauf in alle Zukunft vorherbestimmt. Solche Systeme können oft mit Differential bzw. mit Differenzen-gleichungen beschrieben werden. Wir werden hier nur die einfachsten Fälle besprechen, um eine Idee von dieser Art der Modellierung zu bekommen. Speziell im Bereich der Finanzmathematik spielen stochastische Prozesse eine große Rolle, wo zusätzlich zur dynamischen Struktur des Systems auch noch zufällige Komponenten ins Spiel kommen. Die allgemeine mathematische Behandlung dieser Probleme ist sehr schwierig, nichts desto trotz sollen hier einige Grundlagen vermittelt werden.
Differentialgleichungen
Bei einer Differentialgleichung wird ein Zusammenhang zwischen einer (unbekannten) Funktion und ihren Ableitungen vorgegeben. „Eine Differentialgleichung lösen“ heißt: alle Funktionen finden, die diesen Zusammenhang erfüllen. Beginnen wir mit einem Beispiel, das uns bereits vertraut ist: in der Finanzmathematik wird gerne mit der exponentiellen Verzinsung begonnen, wo aufgrund der Zinseszinsen das Anfangskapital bei einem jährlichen Zinssatz von entsprechend der Formel wächst. Nehmen wir nun an, wir hätten eine monatliche Verzinsung zum Zinssatz . Das Kapital erhöht sich nun jeden Monat um den Faktor, d.h. nach einem Jahr gilt
In der Abbildung entspricht die horizontale Achse der unabhängigen Variable (der Zeit), und die vertikale Achse der abhängigen Variable (in unserem obigen Beispiel dem Kapital). Das Vektorfeld gibt an jedem Punkt die Steigung an, die eine Lösung der Differentialgleichung dort haben muss. Es ist speziell eine Lösung angegeben, die die Anfangsbedingung erfüllt. Beachte, wie diese Lösung den Pfeilen des Vektorfeldes folgt. Man kann sich leicht überzeugen, dass durch eine Lösung gegeben ist, die obige Differentialgleichung für und die Anfangsbedingung erfüllt. Näheres zur Lösung dieser Differentialgleichung folgt in den nächsten beiden Abschnitten.
Differentialgleichungen erster Ordnung
Eine explizite Differentialgleichung erster Ordnung hat die allgemeine Gestalt
Fall 1:
Beispiel 13:
Populationen, die über einen beliebig langen Zeitraum dem Gesetzt des natürlichen Wachstums folgen, könnten beliebig groß werden („exponentielles Wachstum“). Ein realistischeres Modell mit beschränktem Wachstum wird durch die sogenannte logistische Differentialgleichung beschrieben:
und daher
Durch einfache Umformungen erhält man die Umkehrfunktion von t(x):
wobei die Konstante auf die Integrationskonstante C des unbestimmten Integrals zurückgeht und so gewählt werden kann, dass eine etwaige Anfangsbedingung
erfüllt wird:
Die folgende Abbildung zeigt Lösungen der logistischen Gleichung zu den Parametern zu verschiedenen Anfangswerte . Die Lösung konvergiert jeweils gegen die Kapazitätsgrenze .
Aufgabe 10:
Verwende die Methode aus Beispiel 13, um die Differentialgleichung des natürlichen Wachstums allgemein zu lösen.
Finde die spezielle Lösung zur Anfangsbedingung
Die Modelle von Beispiel 12 und Aufgabe 10 können herangezogen werden, um das Bevölkerungswachstum oder das Wachstum eines Marktes zu beschreiben. Beachte, dass wenn bei sehr kleinem Niveau begonnen wird, die Lösung der logistischen Gleichung sich zu Beginn ganz ähnlich verhält wie eine Exponentialfunktion (Abbildung 1.2, die unterste Kurve). Nichts desto trotz wird im Laufe der Zeit irgendwann das Wachstum begrenzt (wenn zum Beispiel die Marktsättigung eines neuen Produktes erreicht ist). Der Glaube an ein unbegrenztes exponentielles Wachstum ist in den meisten Fällen unbegründet, auch wenn viele Wirtschaftstreibende dies wohl gerne anders sehen würden.
Fall 3:
Die Ableitung der Funktion lässt sich als Produkt einer Funktion von x und einer Funktion von t schreiben. Fall 1 und von Fall 2 sind Spezialfälle von Fall 3. Eine Lösung lässt sich formal ähnlich wie im Fall 2 durch Trennung der Variablen finden:
Beispiele dazu finden sich in den Wiederholungsaufgaben. Ein besonders wichtiger Fall tritt allerdings auf, wenn . Dann liegt eine sogenannte homogene lineare Differentialgleichung vor. Dem Typ der linearen Differentialgleichung widmen wir aufgrund seiner Wichtigkeit einen eigenen Abschnitt.
Lineare Differentialgleichungen
Darunter versteht man Gleichungen der Form
Im Falle von spricht man von einer inhomogenen Gleichung, ansonsten wie schon erwähnt, von einer homogenen (vgl. die Nomenklatur von linearen Gleichungssystemen in der linearen Algebra). Die Bezeichnung „linear“ bezieht sich darauf, dass das x nur mit dem Exponenten 1 vorkommt – erinnern Sie sich an die linearen Gleichungen, in denen gibt es auch keine quadratischen Terme, Wurzeln, Winkelfunktionen usw. in x. hingegen darf beliebige Funktionen in t aufweisen! Für die Lösung einer linearen Differentialgleichung sucht man zuerst Lösungen der dazugehörigen homogenen Gleichung. Mit der Methode der Trennung der Variablen erhält man:
und daher
Damit haben wir für die homogene Gleichung eine allgemein gültige Lösungsformel gefunden, wobei eine beliebige Stammfunktion von ist. Für die inhomogene Gleichung verwenden wir einen sogenannten Ansatz, d.h. man geht davon aus, dass die Lösung eine bestimmte Gestalt hat. Diese Technik wird sehr häufig zum Lösen von Differentialgleichungen verwendet. Hier benutzt man die Lösung der homogenen Gleichung, allerdings wird die unbestimmte Konstante c als Funktion von t gewählt:
Was zu tun bleibt ist die Berechnung der Funktion Differenzieren liefert aufgrund der Produktregel und der Kettenregel
Andererseits soll ja die inhomogene Differentialgleichung erfüllt sein:
also sind die rechten Seiten der beiden letzten Gleichungen gleich:
Der Vergleich ergibt, dass aufgrund des Ansatzes der zweite Term auf beiden Seiten bereits übereinstimmt, und erhält man aus:
Damit haben wir die allgemeine Lösung der inhomogenen Gleichung erhalten:
Die Konstante k kann wiederum so gewählt werden, dass gegebenenfalls eine Anfangsbedingung erfüllt wird. Man bezeichnet diese Vorgangsweise zur Bestimmung der Lösung der inhomogenen linearen Differentialgleichung als Variation der Konstanten. Die Lösungsformel kann so interpretiert werden, dass zu einer Partikulärlösung
der inhomogenen Gleichung, eine beliebige Lösung
der homogenen Gleichung hinzuaddiert wird.
Lineare Differentialgleichungen – alternative Rechenmethode
Der oben angegebene Rechenweg erlaubt die Lösung der inhomogenen linearen Differenzialgleichung in einem Schritt; der Formalismus ist allerdings ein wenig sperrig; wir können aber die Methode der Trennung der Variablen auch etwas umständlicher, dafür aber nachvollziehbarer anwenden:
Betrachten wir etwa die inhomogene Differenzialgleichung
Zunächst lösen wir mithilfe der Trennung der Variablen die homogene Gleichung
Wir integrieren beide Seiten und erhalten – Regeln für den Logarithmus bitte beachten! –
Wir nehmen links und rechts die Exponentialfunktion:
(Die Exponentialfunktion einer Konstanten ist wieder eine Konstante!) Damit haben wir die allgemeine Lösung der homogenen Differenzialgleichung; um nun die inhomogene Gleichung zu lösen, reicht es, eine einzige partikuläre Lösung derselben zu finden, zu dieser kann dann jede beliebige Lösung der homogenen addiert werden. Der Witz ist nun, dass wir für diese partikuläre Lösung die Konstante C als Funktion in t betrachten – also:
diese Funktion setzen wir nun in die Differenzialgleichung ein – beachten aber, dass wir jetzt bei der Ableitung die Produktregel anwenden müssen:
setzen wir nun in die Differenzialgleichung ein:
Übrig. Diese formen wir um:
Also
(Wir brauchen nur eine partikulare Lösung – daher setzen wir die Integrationskonstante 0.) Für die partikuläre Lösung der Gleichung erhalten wir damit
Und für die allgemeine Lösung der inhomogenen Gleichung dürfen wir nun jede beliebige Lösung der homogenen hinzu addieren – also
Beispiel 14:
Ein weiteres sehr einfaches Wachstumsmodell ist gegeben durch die Gleichung
Äquivalent dazu ist
Hier ist das Wachstum der Population proportional zur Differenz zwischen der aktuellen Populationsgröße x und der Kapazität K des Habitats. Die homogene Gleichung entspricht im wesentlich dem Gesetz des natürlichen Wachstums, allerdings hier mit negativem Koeffizienten a. Einsetzen in die oben gegebene Lösungsformel mit
und
führt zur allgemeine Lösung
(Die konstante Partikulärlösung hätte wohl auch durch einfaches Raten gefunden werden können.) Falls zum Zeitpunkt t=0 eine Anfangsbedingung gegeben ist, so ergibt die Wahl die richtigen Lösung. Man erkennt klar, dass für kleine Anfangswerte die Konvergenz zur Kapazitätsgrenze wesentlich rascher verläuft als im logistischen Modell.
Aufgabe 11:
Löse die Differentialgleichung
zur Anfangsbedingung
Wir haben in diesem Abschnitt Lösungsmethoden für die allereinfachsten gewöhnlichen Differentialgleichungen erster Ordnung kennen gelernt. Eine natürliche Erweiterung wären Differentialgleichungen höherer Ordnung. In diesen kommt nicht nur x’ vor, sondern auch höhere Ableitung von x. Eines der bekanntesten Beispiele ist die Schwingungsgleichung:
Ebenso ist man häufig nicht nur an einer Variablen interessiert, die sich mit der Zeit verändert, sondern an vielen Variablen. Dies führt zu sogenannten Systemen von Differentialgleichungen. Ein System von linearen Differentialgleichungen mit konstanten Koeffizienten in Vektorform hat zum Beispiel die Gestalt
Hier ist
ein Vektor von n Funktion, die nach t abgeleitet werden, und A ist eine - Matrix. Für diese Art von Systemen gibt es explizite Lösungsformeln, in denen die Eigenwerte der Matrix A eine große Rolle spielen. Bereits das etwas allgemeinere lineare System
mit einer zeitabhängigen Koeffizentenmatrix lässt nicht immer eine geschlossene Darstellung der möglichen Lösungen zu. Die allgemeine Theorie nichtlinearer Systeme von Differentialgleichungen der Form
ist dementsprechend schwierig. Häufig ist das Ziel hier nicht mehr eine explizite Lösung zu finden, sondern das quantitative bzw. qualitative Langzeitverhalten von etwaigen Lösungen zu verstehen. Ein bekanntes Beispiel ist das sogenannte Räuber-Beute Modell
in dem die Größe der Beute-Population und die Größe der Räuber-Population angibt. Alle Konstanten a, b, c und d sind positiv. Je größer die Beutepopulation, desto stärker wächst sie selber (Faktor a), allerdings wächst dann auch die Räuberpopulation (Faktor d). Wenn die Räuberpopulation groß wird so verringert sich die Beutepopulation (Faktor -b), allerdings auch die Räuber-population (Faktor -c).
Bereits dieses relativ einfache Modell birgt sehr interessante Dynamiken in sich, die allerdings noch ziemlich gut zu verstehen sind. Nur minimal komplexere Modelle führen zu dynamischen Systemen mit mitunter recht eigenartigem Verhalten. In den 80-er und 90-erJahren war die Untersuchung solcher nichtlinearen Modelle unter dem Namen „Chaostheorie“ äußerst populär. Die mathematische Behandlung nichtlinearer Modelle ist schwierig, allerdings werden oft nur diese der Komplexität der Realität halbwegs gerecht. Zuletzt sei noch erwähnt, dass wir hier nur gewöhnliche Differentialgleichungen besprochen haben. Dies bedeutet, es gibt nur eine unabhängige Variable, nach der differenziert wird (in unseren Beispielen die Zeit t). Funktionen von mehreren Veränderlichen werden in der Theorie der partiellen Differentialgleichungen behandelt, ein Gebiet der Mathematik das noch um einiges schwieriger ist, als die ohnehin schon sehr komplexe Welt der gewöhnlichen Differentialgleichungen.
Differenzengleichungen
Differentialgleichungen behandeln dynamische Systeme in stetiger Zeit. Wir wollen uns nun dem Fall zuwenden, dass sich Systeme nicht stetig verändern, sondern nur in diskreten Zeiteinheiten. Wir werden typischerweise nur den Fall betrachten, dass die Zeitpunkte durch natürliche Zahlen wiedergegeben werden, und verwenden entsprechend Indizes, um den jeweiligen Zeitschritt anzugeben. Kehren wir zurück zum Beispiel am Beginn vom ersten Abschnitt, und betrachten wir nicht die kontinuierliche Verzinsung, sondern beschränken wir uns auf die jährliche Verzinsung. Nach einem Jahr wird dem Grundkapital die Verzinsung hinzugefügt, und wir haben . Allgemein gilt in jedem Jahr
In dieser Form erkennen wir unschwer woher der Name Differenzengleichung rührt. Differenzengleichung sind formal ähnlich zu Differentialgleichungen, und auch in der Lösungstheorie gibt es gewisse Parallelen. Allerdings kann man in unserem Beispiel die Differenzengleichung umschreiben zu
In dieser Form spricht man von einer Rekursionsgleichung, da die Folge der rekursiv definiert wird. Wie werden im Folgenden die Begriffe Rekursionsgleichung und Differenzengleichung synonym verwenden, da sie in den betrachteten Beispielen jeweils durch einfache Umformung ineinander übergeführt werden können. Gesucht werden nun wieder die Lösungen, d.h. im gegebenen Fall Funktionen , welche die Differenzengleichung erfüllen. Die obige Rekursionsgleichung wurde bereits in der Finanzmathematik explizit gelöst: die Formel der exponentiellen Verzinsung. Vergleiche dies mit der Lösung der Differentialgleichung
dem natürlichen Wachstum
Strukturell erscheinen die Lösungen der Differenzengleichung und der Differentialgleichung sehr ähnlich, und dies ist alles andere als ein Zufall.
Lineare Differenzengleichungen erster Ordnung
Im Gegensatz zu den Differentialgleichungen beschränken wir uns hier weitestgehend auf den Fall von linearen Differenzengleichungen. Wir beginnen mit zwei einfachen Beispielen für inhomogene Differenzengleichungen erster Ordnung (erster Ordnung heißt: es wird nur die Beziehung zwischen und betrachtet).
Beispiel 15:
Betrachte die Gleichung , wobei a und b konstant seien. Es handelt sich demnach um eine inhomogene lineare Differenzengleichung mit Inhomogenität b. Die allgemeine Lösung des zugehörigen homogenen Gleichungssystems ist bereits bekannt als mit beliebiger Konstante c. Des Weiteren se i . Wir erinnern uns, dass die Lösung einer inhomogenen Differentialgleichung die Form hatte: (Lösung des homogenen Problems) Das Gleiche gilt auch hier. Es genügt eine einzige Partikulärlösung zu finden. Versuchen wir eine konstante Lösung , so muss gelten , und daher . Die allgemeine Lösung lautet demnach
Ähnlich wie bei den Differentialgleichungen können wir auch hier eine Anfangsbedingung stellen, etwa dass bekannt sei. Die Konstante liefert gerade die Erfüllung der Anfangsbedingung, und die Lösung lässt sich schreiben als
Wir können diese Lösung auch intuitiv verstehen: sei das Kapital, das auf ein Sparbuch eingelegt wird, a=1+p wobei p der jährlichen Verzinsung entspricht, und b sei ein fester Geldbetrag der jedes Jahr zu Jahresbeginn auf das Sparbuch gelegt wird (ähnlich dem klassischen Bausparvertrag). Nach einem Jahr haben wir , nach zwei Jahren , das heißt das Anfangskapital wurde zweimal verzinst und der Betrag, der nach einem Jahr auf das Sparbuch kam, wurde einmal verzinst. Entsprechend gilt
In der letzten Summe findet sich die Verzinsung der jährlich eingezahlten Beträge. Je später einbezahlt wurde, desto seltener wurde verzinst. Das formal hergeleitete Ergebnis erhält man schließlich aufgrund der bekannten Formel für eine geometrische Summe:
Aufgabe 12:
Wie lautet die Lösung für obige Differenzengleichung im Falle von ?
Beispiel 16:
Ein einfaches Modell für Angebot und Nachfrage Nimm an die Nachfrage nach einem Produkt hängt linear von seinem Preis p ab:
je höher der Preis, desto geringer die Nachfrage. Die Nachfrage bei einem Preis sei auf jeden Fall größer als das Angebot bei . Das Angebot hängt ebenfalls linear vom Preis ab, je höher der Preis ist, desto attraktiver wird die Produktion des Guts und desto größer damit das Angebot:
Allerdings gibt es eine gewisse Verzögerung im Bereitstellen des Angebots, so dass das Angebot zum Zeitpunkt n+1 sich immer auf den Preis zum Zeitpunkt n bezieht. Die Nachfrage hingegen reagiert unmittelbar auf den gegebenen Preis.
Ein Glaubensgrundsatz der Wirtschaftswissenschaft besagt, dass Angebot und Nachfrage zu jedem Zeitpunkt übereinstimmen, und diese Forderung liefert folgende Rekursionsgleichung für den Preis:
oder auch
Diese Gleichung hat die gleiche Gestalt wie jene in Beispiel 15 (nur mit anderen Konstanten), und wir erhalten unmittelbar die Lösung
Es ist nun interessant in diesem Modell zu untersuchen, ob sich der Preis jemals seinem Gleichgewichtszustand annähert. Man spricht von einem Gleichgewicht, wenn . Falls dies erfüllt ist, so bleibt eine Lösung der Differenzengleichung für alle Zeiten konstant. Für Beispiel 16 bedeutet dies
Eine eindeutige Lösung dieser Gleichung ist gegeben durch
Ist , so konvergiert der Faktor in der Formel für gegen 0 und daher gegen das Gleichgewicht p (nachrechnen!), während dieser Faktor für gegen konvergiert und aufgrund der alternierenden Vorzeichen der Preis mit immer größeren Schwankungen vom Gleichgewicht wegdivergiert, - das System aus Angebot und Nachfrage wird zunehmend instabil. Die folgende Abbildung veranschaulicht dieses Verhalten.
Die schwarzen Punkte geben den Preis zum Zeitpunkt n bei einem Verhältnis von an. Der Preis startet bei dem doppelten Wert des Gleichgewichts und pendelt dann jeweils um dieses, konvergiert aber langfristig gegen das Gleichgewicht. Der Preis war zu Beginn zu teuer, daher die Nachfrage zu gering, im nächsten Zeitpunkt war der Preis recht günstig und daher die Nachfrage sehr stark, was den Preis wieder in die Höher treibt, usw. Im Szenario wo pendelt sich die Situation langfristig beim Gleichgewicht ein. Ganz anders das Verhalten bei einem Verhältnis von , das in der Abbildung durch Sterne widergegeben wird. Obwohl der Preis sehr nahe am Gleichgewichtszustand startet, werden die Schwankungen von Jahr zu Jahr immer größer. Spätestens ab ist die Gültigkeit dieses einfachen Modells höchst fragwürdig – die vorhergesagten Preise sind negativ! Eine mögliche Schlussfolgerung aus dieser Analyse ist, dass ein Preisgleichgewicht in diesem Modell nur dann erzielt werden kann, wenn die Steigung der Angebotskurve geringer ist als die Steigung der Nachfragekurve. In anderen Worten, die Anbieter müssen auf Preisschwankungen weniger sensibel reagieren als die Konsumenten. An dieser Stelle ist vielleicht eine allgemeine Bemerkung angebracht. Ein mathematisches Modell ist immer nur ein Modell und kein Naturgesetz. Selbst in der Physik wo von Naturgesetzen gesprochen wird, sind sich die Wissenschafter durchaus bewusst, dass ihre Gleichungen nur Modelle sind, welche gewisse Phänomene der Natur mehr oder weniger gut beschreiben, aber niemals die Wirklichkeit vollständig wiedergeben. In einer Wissenschaft wie der Ökonomie, die nicht unbedingt auf wiederholbaren Experimenten beruht, ist entsprechend noch höhere Vorsicht geboten. Das Modell aus Beispiel 15 kann als klassisch bezeichnet werden, aber man tut gut daran sich dessen Grenzen vor Augen zu halten. Offensichtlich ist die lineare Abhängigkeit der Nachfrage und des Angebots vom Preis eine recht starke Forderung, die wenn überhaupt nur in der Nähe eines Gleichgewichtspreises postuliert werden kann. Das Verhalten der Lösung im Falle für große n deutet darauf hin, dass das Modell in diesem Bereich nicht mehr sinnvoll ist. Eine grundlegendere Frage wäre zum Beispiel, bis zu welchem Grade überhaupt davon ausgegangen werden kann, dass sowohl das Angebot als auch die Nachfrage einzig und allein vom Preis abhängen. Die Voraussetzungen, die bei der mathematischen Modellierung eines Sachverhalts getroffen wurden, und die daraus resultierenden Beschränkungen eines Modells sollten niemals aus den Augen verloren werden.
Aufgabe 13:
Finde mögliche Gleichgewichtszustände für die nichtlineare Differenzengleichung
Lineare Differenzengleichungen höherer Ordnung
Die Rekursionsgleichungen im vorigen Abschnitt waren jeweils von erster Ordnung, das bedeutet, dass jeweils nur von abhängt, der Wert zu einem beliebigen Zeitpunkt hängt einzig und allein vom vorherigen Zeitpunkt ab. Bei Differenzengleichungen höherer Ordnung besteht ein funktionaler Zusammenhang, der sich über mehrere Zeitschritte erstreckt. Hier ein Beispiel für eine homogene Gleichung zweiter Ordnung:
Beispiel 17:
Löse die Gleichung Als erste einfache Lösung erkennt man . Um weitere Lösungen zu erhalten hilft ähnlich wie bei Differentialgleichungen wieder ein Ansatz: Versuche eine Lösung der Gestalt und berechne aus der Gleichung. Einsetzen liefert Kürzen von gibt die quadratische Gleichung mit den beiden Lösungen Zwei mögliche Lösungen sind also und Die beiden so erhaltenen Lösungen bezeichnet man als Fundamentallösungen. Schreiben Sie von beiden Lösungen die ersten 4 Folgenglieder auf und kontrollieren Sie, dass die Gleichungen tatsächlich erfüllt sind! Aufgrund der Linearität der gegebenen Gleichungen sieht man leicht, dass ebenfalls jede Linearkombination der Fundamentallösungen
eine Lösung liefert. Man kann durch folgende Überlegungen zeigen, dass damit nun tatsächlich alle möglichen Lösungen gefunden wurden: Bei Differenzengleichungen erster Ordnung wird die Lösung durch eine einzige Anfangsbedingung eindeutig bestimmt. Dies ist völlig einleuchtend, wenn man sich das Rekursionsprinzip vor Augen führt: bestimmt , welches bestimmt, usw. Für Differenzengleichungen zweiter Ordnung wird hingegen sowohl durch als auch durch bestimmt. Das heißt eine eindeutige Lösung wird durch zwei Anfangsbedingungen festgelegt, und die beiden Konstanten und können dann entsprechend gewählt werden. Die allgemeine homogene lineare Differenzengleichung Ordnung mit konstanten Koeffizienten hat folgende Gestalt:
Für Gleichungen dieser Form kann man immer zunächst den Ansatz versuchen. Einsetzen des Ansatzes und Kürzen durch liefert folgende Gleichung:
Die Bestimmung von Lösungen der Differenzengleichung reduziert sich somit auf das Finden von Nullstellen eines Polynoms, das wiederum als charakteristisches Polynom bezeichnet wird.
Aufgabe 14:
Eine Rekursionsgleichung zweiter Ordnung liefert die berühmten Fibonacci Zahlen: beginne zweimal mit der Zahl 1, und berechne jedes weitere Folgenglied als die Summe der beiden vorherigen. Formuliere dieses Problem als Differenzengleichung zweiter Ordnung mit Anfangsbedingungen und finde eine explizite Darstellung der n-ten Fibonacci Zahl!
Für inhomogene Differenzengleichungen genügt es wie bei Differentialgleichungen die homogene Gleichung zu lösen und eine Partikulärlösung der inhomogenen Gleichung zu finden. Die homogene Lösung wird so angepasst, dass die Anfangsbedingungen erfüllt werden.
Aufgabe 15:
Gegeben sei die Differenzengleichung
zu den Anfangsbedingungen
Bestimme die eindeutige Lösung dieser Gleichung. Hinweis: Versuche für die Partikulärlösung den Ansatz
Damit sind wir in der Lage, für gewisse lineare Differenzengleichungen mit konstanten Koeffizienten Lösungen zu bestimmen. Falls das charakteristische Polynom k verschiedene reelle Nullstellen hat liefert die vorgestellte Methode tatsächlich alle Lösungen. Es gibt zwei davon abweichende Fälle: Einerseits können sogenannte mehrfache Nullstellen auftreten, zum Beispiel hat das Polynom
die zweifache Nullstelle. Andererseits gibt es mitunter komplexe Nullstellen, wie zum Beispiel beim Polynom . Für die Vorgangsweise in diesen Fällen, sowie bei allgemeineren Differenzengleichungen sei auf die Literatur verwiesen. In den Wiederholungsaufgaben finden sich auch Beispiele für lineare Differenzengleichungen mit nichtkonstanten Koeffizienten.
Stochastische Prozesse
Wir haben nun dynamische Systeme sowohl in kontinuierlicher Zeit als auch in diskreter Zeit kennen gelernt. Sowohl für Differentialgleichungen als auch für Differenzengleichungen spricht man von sogenannten Anfangswertaufgaben. Sind zu einem bestimmten Zeitpunkt die Anfangsbedingungen festgelegt, so ist die Dynamik eindeutig vorherbestimmt (auch wenn die Berechnung in vielen Fällen äußerst schwierig bzw. nur näherungsweise möglich ist). In diesem abschließenden Kapitel betrachten wir – sehr oberflächlich! - dynamische Systeme, die sich qualitativ gänzlich anders verhalten. Bei stochastischen Prozessen wird das zeitliche Verhalten eines Systems von Zufällen bestimmt, die eine eindeutige Vorhersage verunmöglichen. Selbst, wenn man zu einem bestimmten Zeitpunkt alles über ein System wüsste, so könnte man für die Zukunft nur prognostizieren, mit welcher Wahrscheinlichkeit das System jeden der möglichen Zustände annimmt. Wir werden nur den einfachen Fall besprechen, dass ein System endlich viele Zustände annehmen kann. Stochastische Prozesse mit überabzählbar unendlichem Wertebereich sind in der modernen Finanzmathematik von immenser Bedeutung, würden aber den Rahmen dieses Lehrtextes bei weitem sprengen! Beginnen wir mit einem Beispiel. Angenommen ein System kann 3 verschiedene Zustände annehmen. Wenn es sich in Zustand 1 befindet, so kann es entweder dortbleiben, oder sich mit einer gewissen Wahrscheinlichkeit im nächsten Zeitschritt in Zustand 2 oder Zustand 3 begeben.
In der Abbildung sehen wir den Verlauf eines zufälligen Prozesses, der zwischen den Zuständen 1, 2 und 3 wechselt. Die Folge der ersten 20 Zustände lautet
2 1 3 1 3 3 3 3 2 2 1 2 1 3 3 2 3 1 2 3
Wir haben also , usw. Im Gegensatz zu den Lösungen der Differenzengleichungen aus dem vorigen Abschnitt gibt es hier keine Gesetzmäßigkeit, die angibt, wie die Folge sich fortsetzen wird. Im Gegenteil: die Folge ist vollständig zufällig. Sie wurde simuliert unter der Annahme, dass der Zustand des Prozesses zum Zeitpunkt n jeden der Werte 1, 2 und 3 mit gleicher Wahrscheinlichkeit annimmt, unabhängig davon, welche Zustände der Prozess an allen vorherigen Zeitpunkten annimmt. Im Vergleich zu den deterministischen Systemen des vorigen Abschnitts handelt sich also um das andere Extrem, wo keinerlei Vorhersage über die weitere Entwicklung des Prozesses aus seinem bisherigen Verlauf abgeleitet werden kann. Der folgende Abschnitt behandelt zufällige Prozesse, die etwas mehr innere Struktur besitzen können.
Markovketten
Sei ein zufälliger Prozess der endlich viele Werte annehmen kann, d. h. für jedes
wobei k die Anzahl der möglichen Zustände ist. Diese Werte werden zufällig angenommen, jedoch hängt die Wahrscheinlichkeit, mit der einen bestimmten Wert annimmt vom Zustand zum vorherigen Zeitpunkt ab – und zwar nur von diesem. Diese Markov-Eigenschaft lautet demgemäß:
Die Wahrscheinlichkeit von einem Zustand in den Zustand zu gelangen bezeichnet man als Übergangswahrscheinlichkeit
Beachte die Reihenfolge der Indizes in der Übergangsmatrix
In der i-ten Zeile und j-ten Spalte steht die Wahrscheinlichkeit vom Zustand i in den Zustand j zu gelangen. Im folgenden Beispiel werden die Übergangswahrscheinlichkeiten durch ein sogenanntes Markov-Diagramm veranschaulicht.
Beispiel 18:
Ein System kann 3 mögliche Zustände A, B und C annehmen. Die Übergangswahrscheinlichkeiten sind durch folgende Matrix gegeben:
Das entsprechende Markov-Diagramm hat folgende Gestalt:
In das Diagramm wurden nur die Übergangswahrscheinlichkeiten zwischen verschiedenen Zuständen eingetragen. Man könnte zusätzlich noch mit kleinen Schleifen für jeden Zustand die Übergangswahrscheinlichkeit in sich selbst eintragen. Dies wäre jedoch redundant, da sich diese Wahrscheinlichkeit aus den gegebenen Werten leicht berechnen lässt - das System nimmt zu jedem Zeitpunkt genau einen Zustand an, daher ist die Wahrscheinlichkeit, von einem Zustand in irgendeinen einen anderen Zustand zu gelangen, immer gleich 1. Diese Eigenschaft überträgt sich auf die Übergangsmatrizen, deren Zeilensummen immer grade 1 ergeben. Aus dem Diagramm erkennt man und und somit muss gelten: entsprechend dem Eintrag in der Matrix.
Nehmen wir an ein System befindet sich zum Zeitpunkt 0 in einem bestimmten Zustand i. Für deterministische Systeme erster Ordnung würde diese Information genügen, um den Zustand des Systems für seine gesamte Zukunft eindeutig vorherzusagen. Dies ist bei einem stochastischen Prozess nicht der Fall, aber unter Annahme der Markov-Eigenschaft kann man zumindest die Wahrscheinlichkeit berechnen, mit welcher sich das System zu einem späteren Zeitpunkt in einem bestimmten Zustand befinden wird.
Fortsetzung Beispiel 18:
Angenommen zum Zeitpunkt 0 befindet sich das System im Zustand A. Berechne die Wahrscheinlichkeit, dass sich das System zum Zeitpunkt 2 in einem bestimmten Zustand befindet. Identifiziere die Zustände A,B,C mit den Indices 1, 2 und 3. Aufgrund des Satzes von der totalen Wahrscheinlichkeit gilt:
Speziell:
Beachte, dass die Berechnung von
gerade auf das Element der i-ten Zeile und der j-ten Spalte der führt. Allgemein gilt:
Das heißt die Berechnung von Übergangswahrscheinlichkeiten für mehrere Zeitschritte erfolgt durch einfaches multiplizieren der Übergangsmatrix mit sich selbst. Am effizientesten berechnet man mit Hilfe der Eigenwerte von P. Hat die Matrix k verschiedene reelle Eigenwerte , so lässt sich zeigen, dass der Ansatz
verwendet werden kann. Für die ersten k Zeitpunkte ist die Berechnung der Überganswahrscheinlichkeiten oft sehr einfach (siehe Beispiel 18). Einsetzen in den Ansatz liefert ein System von k linearen Gleichungen mit k Variablen, durch dessen Lösung die Koeffizienten bestimmt werden können.
Aufgabe 16:
Gegeben sei die Übergangsmatrix einer Markovkette
Berechne
Für allgemeinere Eigenwertkonstellationen (komplexe Eigenwerte, mehrfache Eigenwerte) werden kompliziertere Ansätze verwendet um zu berechnen. Für Details sei auf die Literatur verwiesen. Die explizite Berechnung von Wahrscheinlichkeiten ist ein wesentlicher Aspekt bei der Modellierung von dynamischen Systemen mit Markovketten. Viele weitere interessante Probleme, wie die Berechnung von Absorptionswahrscheinlichkeiten und Absorptionszeiten, die Theorie der Random Walks, die Suche nach Gleichgewichtszuständen sowie das Langzeitverhalten von Markovketten können hier nicht erörtert werden. Es sei jedoch erwähnt, dass zur Bestimmung von diversen Wahrscheinlichkeiten die Techniken von Kapitel 3.2 eine große Rolle spielen. Aus mathematischer Sicht besteht also ein enger Zusammenhang zwischen Differenzengleichungen und Markovketten in diskreter Zeit. Für eine ausführliche Darstellung sei wiederum auf Norris (1997) verwiesen. Markovketten spielen in der mathematischen Modellierung eine große Rolle. Häufig finden sie Anwendung in komplexeren Modellen. Speziell seien hier die „Hidden Markov Models erwähnt, die ursprünglich als Modelle zur Spracherkennung entwickelt wurden , sich aber heute in immer mehr Gebieten großer Beliebtheit erfreuen - in letzter Zeit auch im Bereich Finance. Auch Markovketten in stetiger Zeit werden untersucht. Die wichtigsten Vertreter diese Klasse von Modellen sind die Poisson-Prozesse, die aus theoretischer und praktischer Sicht von fundamentaler Bedeutung sind. Typische Anwendungen betreffen die Wartezeit auf das Eintreten von bestimmten Ereignissen (Auftreten eines Defekts in einem Produktionsprozess, Anruf in einem Call-Center, etc.). Ebenfalls in diesen Rahmen, obwohl etwas komplizierter, fällt die Warteschlangentheorie, wo in stetiger Zeit zu einem zufälligen Zeitpunkt bestimmte Aufgaben anfallen, deren Abarbeitung selbst wiederum eine zufällige Zeitdauer in Anspruch nimmt. Für Details sei auch hier auf Norris (1997) verwiesen.
Zusammenfassung Wir haben in diesem Kapitel einige Aspekte von dynamischen Systemen besprochen. Speziell wurde die mathematische Modellierung von deterministischen Systemen in stetiger Zeit (Differentialgleichungen) und in diskreter Zeit (Differenzengleichungen) anhand von vergleichsweise einfachen Beispielen vorgestellt. Die Tatsache, dass alle hier besprochenen Gleichungen exakt lösbar waren soll nicht den Eindruck vermitteln, dass dies immer der Fall ist! Ganz im Gegenteil - der weitaus größte Teil der mathematischen Theorie von Differential- und Differenzengleichungen beschäftigt sich gerade mit der Situation, wo eine explizite Lösung nicht möglich ist. Numerische Methoden sind heute weit entwickelt, und falls überhaupt Lösungen existieren, so kann man häufig mit Hilfe von Computerberechnungen Näherungen zu finden. Zusätzlich wurde anhand von einfachsten Markovketten die Theorie der stochastischen Prozesse angerissen. Die stochastische Modellierung ist oft realistischer als ein deterministischer Ansatz, da nur in den seltensten Fällen alle Einflüsse auf ein System vollständig erfasst werden können. Allerdings wird auch die mathematische Analyse entsprechend schwieriger.
Wiederholungsaufgaben/Übungen
Aufgabe 1
Löse folgende Differentialgleichungen zur Anfangsbedingung
Aufgabe 2
Gib die allgemeine Lösung folgender linearer Differentialgleichungen:
Aufgabe 3
Löse folgende linearen Differentialgleichungen zur Anfangsbedingung
Aufgabe 4
Finde die allgemeine Lösung für folgende Differenzengleichungen
Aufgabe 5
Finde die allgemeine Lösung für folgende Differenzengleichungen höherer Ordnung
Aufgabe 6
Eine Markovkette kann zwei mögliche Zustände (1 und 2) annehmen. Die Wahrscheinlichkeit in einem Zeitschritt von 1 nach 2 zu gelangen sei gegeben durch
Entsprechend sei
Bestimme die Übergansmatrix, zeichne das Markov-Diagramm und berechne die Wahrscheinlichkeiten
sowie
Aufgabe 7
Es sei
das Maximum der ersten n Ausgänge einer Folge unabhängiger Würfelexperimente mit einem fairen Würfel. Ist
eine Markovkette?
Berechne die Übergangsmatrix .
Lösungen der Wiederholungsaufgaben
Aufgabe 1
a) Separation der Variablen liefert Anfangsbedingung liefert und insgesamt Beachte, dass für die Lösung zum Zeitpunkt unbeschränkt wird.
b) Separation der Variablen liefert . Anfangsbedingung liefert und daher
c) Separation der Variablen liefert Anfangsbedingung liefert und daher
Aufgabe 2
Gib die allgemeine Lösung folgender linearer Differentialgleichungen:
a) homogen: Variation der Konstanten:
b) homogen: (durch Separation der Variablen) Variation der Konstanten:
c) homogen: (Separation der Variablen) Variation der Konstanten:
Aufgabe 3
Löse folgende linearen Differentialgleichungen zur Anfangsbedingung
a)
homogen: (Separation der Variablen)
Variation der Konstanten:
Anfangsbedingung:
b)
homogen: (Separation der Variablen)
Variation der Konstanten:
Anfangsbedingung:
c)
homogen:
Variation der Konstanten:
Anfangsbedingung:
Aufgabe 4
a)
homogen:
Partikulärlösung: (jeweils durch erraten)
allgemeine Lösung:
b)
Es handelt sich um eine lineare homogene Gleichung, direkt in Rekursionsform. Nimm an, dass . Die ersten Folgenglieder haben die Gestalt
Und man zeigt (mittels vollständiger Induktion oder durch einfaches Einsetzen in die Rekursionsformel), dass die allgemeine Lösung die Gestalt
hat.
(Man hätte auch die Aufgabe (a) systematisch auf die Art lösen können)
c)
Homogen durch Rekursion wie in (b):
Partikulärlösung: (vergleiche mit (a)
Allgemeine Lösung:
Aufgabe 5
Finde die allgemeine Lösung für folgende Differenzengleichungen höherer Ordnung
a) Das charakteristische Polynom liefert nur einen zweifachen Eigenwert, nämlich Der Ansatz liefert daher nur eine Lösung, nämlich (nur ein Eigenwert) Als zweite Lösung erhält man bei zweifachen reellen Eigenwerten Die allgemeine Lösung ist daher
b) Ansatz , erster Eigenwert leicht zu erraten. Abspalten von Linearfaktor und Lösung von quadratischer Gleichung liefert folgende Lösung wobei wir vor dem Problem stehen, dass die beiden restlichen Eigenwerte nun nur als komplexe Zahlen existieren. Ohne hier auf nähere Details über komplexe Zahlen eingehen zu wollen sei nur erwähnt, dass mit dem hier eingeführten Symbol weitgehend normal gerechnet werden kann. Die beiden Eigenwerte und sind zueinander konjugiert komplex, und man kann zeigen, dass sowohl als auch jeweils reelle Lösungen der Differenzengleichung bestimmen. Die allgemeine reelle Lösung lautet daher wobei zur expliziten Bestimmung dieser Lösung das Rechnen mit komplexen Zahlen beherrscht werden muss.
Aufgabe 6
Übergangsmatrix:
Aufgabe 7
Sei das Ergebnis des i-ten Wurfes, das heißt . Weiters ist . Zunächst gilt und daher . Wie sieht es mit aus? Es gibt zwei Möglichkeiten:
Wie man sich leicht überlegt gilt dieser Zusammenhang nicht nur für n=2, sondern für beliebiges n, und daher ist tatsächlich eine Markovkette. Die Übergangsmatrix hat die Form
Bartholomew-Biggs, M. (2005): Nonlinear Optimization with Financial Applications, Kluwer Academic Publishers
Beutelspacher, A. (2003): Lineare Algebra, 6. Auflage, Vieweg-Verlag,
Bomze I.M., Grossmann W. (1993), Optimierung – Theorie und Algorithmen, Eine Einführung in Operations Research für Wirtschaftsinformatiker, BI-Verlag, Mannheim.
Christmann A.(1990): Anwendungen der Synergetik und Chaostheorie in der Ökonomie. Doktorarbeit, Karlsruhe;
Domschke W., Drexl A., (1995): Einführung in Operations Research, 3. verb. und erw. Auflage, Springer, Berlin
Fischer, G. (2005): Lineare Algebra, 15. Auflage, Vieweg-Verlag
Heuser, H. (2004): Gewöhnliche Differentialgleichungen. 4. Auflage, Teubner, Wiesbaden
Lawrence R. Rabiner (1989): A tutorial on Hidden Markov Models and selected applications in speech recognition. Proceedings of the IEEE 77 (2): 257-286.
Loistl O., Iro B. (1993): Chaostheorie. Zur Theorie nichtlinearer dynamischer Systeme. Oldenbourg R. Verlag, München
Luenberger D.G. (1979): Introduction to Dynamic Systems, Theory, Models & Applications, Wiley
Nocedal, J., Wright, S. J. (1999): Numerical Optimization, Springer-Verlag
Nørlund, N. E. (1924): Vorlesungen über Differenzenrechnung, Springer, Berlin
Norris, J.R. (1997): Markov Chains, Camebridge University Press
Sydsaeter K., Hammond P. (2004), Mathematik für Wirtschaftswissenschaftler, Pearson Studium
Walter W. (1991): Gewöhnliche Differentialgleichungen. 5. Auflage, Springer-Verlag, Berlin Heidelberg New York