Computerhilfen.de Logo
Forum
Tipps
News

Nachkommastellen mit Variable ausdrücken

Hi!
Hab folgendes Problem: Ich hab n Programm mit VB geschrieben, dass die Wurzel von einer Zahl ausrechnet und ausgibt. Das hab ich aber nicht mir "sqrt" sondern mit meinem eigenen bzw. dem Heron Algorithmus gemacht. Jetzt hab ich aber das Problem, dass ich die Schleife nicht abbrechen kann, wenn er zu viele NAchkommastellen hat.
Beispiel: Die Wurzel aus 2 hat ja unendlich viele Nachkommastellen. Aber da er nie abbricht rechnet er immer weiter und ich muss das Prog so vorzeitig beenden.
Jetzt möchte ich halt wissen, wie man die Nachkommastellen ausdrückt, damit ich die Schleife ab einer bestimmten Anzahl von Nachkommastellen abbrechen kann.

thx

Joe


Antworten zu Nachkommastellen mit Variable ausdrücken:

Was haste denn fürne Abbruchbedingung?
Poste doch mal den Code

Gruß

Die Abbruchbedingung ist ja gerade mein Problem. Also, ich will eine Schleife abbrechen, wenn die Zahl x eine bestimmte Anzahl von Nachkommastellen erreicht hat.

Naja du könntest jeweils das Ergebnis in eine Zeichenfolge umwandeln dann prüfen entweder ob ein Exponent auftaucht wenn nicht dann prüfen obs Nachkommastellen gibt.

private function KScount(byval testzahl as double) as integer
Kpos = InStr(1, testzahl, ",", vbTextCompare)
Epos = InStrRev(CStr(testzahl), "E", -1, vbTextCompare)
If Not Epos = 0 and Not Kpos = 0 Then
  If Epos > 0 Then
    nk = CInt(Mid(CStr(testzahl), Epos + 2))
  ElseIf Kpos > 0 Then
    nk = CInt(Len(Mid(CStr(testzahl), Kpos + 1)))
  End If
End If
KScount = nk
end function

Gruß

« Letzte Änderung: 14.12.03, 15:33:21 von Nighty »

« Reis + schachbrett problemExcel, virtuelles Depot »
 

Schnelle Hilfe: Hier nach ähnlichen Fragen und passenden Tipps suchen!