Picproje Elektronik Sitesi

PROGRAMLAMA DİLLERİ => Python => Konuyu başlatan: algorist - 06 Mart 2019, 09:52:27

Başlık: python ile dat file
Gönderen: algorist - 06 Mart 2019, 09:52:27
Herkeze merhaba, içerisinde tablo şeklinde data bulunan bir .dat uzantılı bir dosyam var. Bunu açmak için python kod parçacığına ihtiyacım var araştırdım ancak denediğim kodlar çalışmadı. Ben dataları bir exel dosyasına yazmak istiyorum. Biliyorum biraz hazıra konmak gibi oldu ama vaktim çok az kaldı. Daha önce uğraşmış olan varsa, Teşekkür ederim.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 06 Mart 2019, 12:10:14
import pandas as pd
myarray = pd.read_csv('C:\\Users\\berk\\Desktop\\New folder\\RMS.dat',  engine='python')




=========== RESTART: C:/Users/berk/Desktop/New folder/dat_read.py ===========
Traceback (most recent call last):
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 2854, in _next_iter_line
    return next(self.data)
_csv.Error: line contains NULL byte

During handling of the above exception, another exception occurred:

Traceback (most recent call last):
  File "C:/Users/berk/Desktop/New folder/dat_read.py", line 2, in <module>
    myarray = pd.read_csv('C:\\Users\\berk\\Desktop\\New folder\\RMS.dat',  engine='python')
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 702, in parser_f
    return _read(filepath_or_buffer, kwds)
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 429, in _read
    parser = TextFileReader(filepath_or_buffer, **kwds)
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 895, in __init__
    self._make_engine(self.engine)
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 1132, in _make_engine
    self._engine = klass(self.f, **self.options)
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 2238, in __init__
    self.unnamed_cols) = self._infer_columns()
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 2510, in _infer_columns
    line = self._buffered_line()
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 2689, in _buffered_line
    return self._next_line()
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 2794, in _next_line
    orig_line = self._next_iter_line(row_num=self.pos + 1)
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 2873, in _next_iter_line
    self._alert_malformed(msg, row_num)
  File "C:\Users\berk\AppData\Local\Programs\Python\Python37-32\lib\site-packages\pandas\io\parsers.py", line 2835, in _alert_malformed
    raise ParserError(msg)
pandas.errors.ParserError: NULL byte detected. This byte cannot be processed in Python's native csv library at the moment, so please pass in engine='c' instead
>>>


aldıgım hata
Başlık: Ynt: python ile dat file
Gönderen: metaltrrocker - 06 Mart 2019, 13:17:41
https://stackoverflow.com/questions/4166070/python-csv-error-line-contains-null-byte
Buradaki çözümleri denediniz mi?

Özel bilgiler içermeyen bir dosya ise buraya yükle boş zamanımda bakayım bir ihtimal çözüme ulaşabiliriz.
Başlık: Ynt: python ile dat file
Gönderen: muhittin_kaplan - 06 Mart 2019, 21:42:00
dat dosya binary mi csv mi ?
pd.read_csv ile csv dosya okuyabilirsiniz. (metin dosyadır, veriler virgülle ayrılmıştır.)
Başlık: Ynt: python ile dat file
Gönderen: fide - 06 Mart 2019, 22:13:35
Not defteri yada notepad++ ile dosyayı açın. Eğer okunabilir bir içerik varsa bir kılıf uydurulur.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 06 Mart 2019, 23:22:34
Alıntı yapılan: muhittin_kaplan - 06 Mart 2019, 21:42:00dat dosya binary mi csv mi ?
pd.read_csv ile csv dosya okuyabilirsiniz. (metin dosyadır, veriler virgülle ayrılmıştır.)
csv olarak okudum null byte sorununu null sektörleri atlayarak halletim ancak 10 Mb dosyayı çok yavaş okuyorum.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 06 Mart 2019, 23:23:26
Alıntı yapılan: fide - 06 Mart 2019, 22:13:35Not defteri yada notepad++ ile dosyayı açın. Eğer okunabilir bir içerik varsa bir kılıf uydurulur.
Okunacak bir metin gözükmedi.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 06 Mart 2019, 23:23:55
Alıntı yapılan: metaltrrocker - 06 Mart 2019, 13:17:41https://stackoverflow.com/questions/4166070/python-csv-error-line-contains-null-byte
Buradaki çözümleri denediniz mi?

Özel bilgiler içermeyen bir dosya ise buraya yükle boş zamanımda bakayım bir ihtimal çözüme ulaşabiliriz.
İlgilenen herkeze Teşekkür ederim.
Başlık: Ynt: python ile dat file
Gönderen: muhittin_kaplan - 07 Mart 2019, 15:14:59
10mb i not defteri açamamış ve okuyamamış olabilirsiniz.
Read Csv engine parametresini kontrol ediniz
Başlık: Ynt: python ile dat file
Gönderen: algorist - 07 Mart 2019, 17:21:17
Alıntı yapılan: muhittin_kaplan - 07 Mart 2019, 15:14:5910mb i not defteri açamamış ve okuyamamış olabilirsiniz.
Read Csv engine parametresini kontrol ediniz

Tamam bakayım ayrıca okuduğum datalarla beklediğim datalar uyuşmuyor hala hiç bişey okuyamamışım.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 07 Mart 2019, 17:22:30
Alıntı yapılan: muhittin_kaplan - 06 Mart 2019, 21:42:00dat dosya binary mi csv mi ?
pd.read_csv ile csv dosya okuyabilirsiniz. (metin dosyadır, veriler virgülle ayrılmıştır.)
Bundan emin değilim. csv olup olmadığını bilmiyorum.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 07 Mart 2019, 17:23:15
Alıntı yapılan: metaltrrocker - 06 Mart 2019, 13:17:41https://stackoverflow.com/questions/4166070/python-csv-error-line-contains-null-byte
Buradaki çözümleri denediniz mi?

Özel bilgiler içermeyen bir dosya ise buraya yükle boş zamanımda bakayım bir ihtimal çözüme ulaşabiliriz.
Maalesef paylaşamıyorum.
Başlık: Ynt: python ile dat file
Gönderen: muhittin_kaplan - 07 Mart 2019, 18:33:17
10mb csv yi excel doğrudan açar.
görüntüsü eğer not defterinde açabilirsen
1,"Eldon Base for stackable storage shelf, platinum",Muhammed MacIntyre,3,-213.25,38.94,35,Nunavut,Storage & Organization,0.8
2,"1.7 Cubic Foot Compact ""Cube"" Office Refrigerators",Barry French,293,457.81,208.16,68.02,Nunavut,Appliances,0.58
3,"Cardinal Slant-D® Ring Binder, Heavy Gauge Vinyl",Barry French,293,46.71,8.69,2.99,Nunavut,Binders and Binder Accessories,0.39
böyledir.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 07 Mart 2019, 19:49:55
µ¸|1À¯Ä5¸e~ÄÚ¥¹anlamlı bilgiler okuyamiyorum. Bunun anlamı elimdeki dosya Binary midir?
Başlık: Ynt: python ile dat file
Gönderen: muhittin_kaplan - 07 Mart 2019, 23:01:38
çok kuvvetli ihtimal binary dir. veri formatını bilmiyorsanız içinden anlamlı veri çekmeniz günlük 8 saatten en az 6 ayınızı alır. süre tecrubenizle ters orantılı olarak değişir.
Başlık: Ynt: python ile dat file
Gönderen: OptimusPrime - 07 Mart 2019, 23:07:15
Bin oldugundan supheleniyorsan notepad++ in Hex-Editor eklentisini bekledigin icerigi gosterecektir.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 08 Mart 2019, 09:31:19
Alıntı yapılan: muhittin_kaplan - 07 Mart 2019, 23:01:38çok kuvvetli ihtimal binary dir. veri formatını bilmiyorsanız içinden anlamlı veri çekmeniz günlük 8 saatten en az 6 ayınızı alır. süre tecrubenizle ters orantılı olarak değişir.
Bazı programların paket olarak dat file açabilme özelliğine sahip olduğunu düşünüyorum. Açık kaynak bildiğiniz bir program varmı?
Başlık: Ynt: python ile dat file
Gönderen: algorist - 08 Mart 2019, 09:33:42
Alıntı yapılan: OptimusPrime - 07 Mart 2019, 23:07:15Bin oldugundan supheleniyorsan notepad++ in Hex-Editor eklentisini bekledigin icerigi gosterecektir.
hex editor yükleyip açtım ancak sonuç değişmedi.

(https://i.ibb.co/5YFv3BQ/Capture.jpg) (https://ibb.co/5YFv3BQ)
Başlık: Ynt: python ile dat file
Gönderen: muhittin_kaplan - 08 Mart 2019, 21:13:04
Hex editorde bu görüntü olmamalı,
Bilinen 00 FF arası sayılar görülmeli.
Benim bu bilgilerle yazabileceklerim ancak bukadar. Size kolay gelsin.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 12 Mart 2019, 11:01:39
Alıntı yapılan: muhittin_kaplan - 08 Mart 2019, 21:13:04Hex editorde bu görüntü olmamalı,
Bilinen 00 FF arası sayılar görülmeli.
Benim bu bilgilerle yazabileceklerim ancak bukadar. Size kolay gelsin.

Hexe çevrilmiş hali


(https://i.ibb.co/R3TQwfs/Capture2.jpg) (https://ibb.co/R3TQwfs)

five dice app (https://freeonlinedice.com/)
Başlık: Ynt: python ile dat file
Gönderen: algorist - 12 Mart 2019, 11:15:05
import numpy as np

data = np.fromfile('C:\\Users\\berk\\Desktop\\New folder\\RMS.dat', dtype='>d')


cıktı >>>
=========== RESTART: C:\Users\berk\Desktop\New folder\dat_read.py ===========
>>>data
array([ 4.94065646e-324, -2.89999004e-038, -3.82458793e+039, ...,
       -1.63440096e+019, -2.54865447e-020, -1.21379735e+092])
>>>
Başlık: Ynt: python ile dat file
Gönderen: algorist - 12 Mart 2019, 11:18:41
Alıntı yapılan: algorist - 12 Mart 2019, 11:15:05import numpy as np

data = np.fromfile('C:\\Users\\berk\\Desktop\\New folder\\RMS.dat', dtype='>d')


cıktı >>>
=========== RESTART: C:\Users\berk\Desktop\New folder\dat_read.py ===========
>>>data
array([ 4.94065646e-324, -2.89999004e-038, -3.82458793e+039, ...,
       -1.63440096e+019, -2.54865447e-020, -1.21379735e+092])
>>>
array içindekileri anlamlı halde nasıl csv ye dönüştürebilirim. Binary to csv convert ile ilgili bulduğum  bazı kodları denedim ancak çalıştıramadım.
Başlık: Ynt: python ile dat file
Gönderen: muhittin_kaplan - 13 Mart 2019, 00:09:54
verilerin ne olduğunu biliyormusunuz, kaçbyte dan oluştuğunu,boşluk olup olmadığını ?
Başlık: Ynt: python ile dat file
Gönderen: algorist - 13 Mart 2019, 11:15:11
Alıntı yapılan: muhittin_kaplan - 13 Mart 2019, 00:09:54verilerin ne olduğunu biliyormusunuz, kaçbyte dan oluştuğunu,boşluk olup olmadığını ?

Veriler bir çok baranın güç akım gerilim vb bilgileri evet boşluk var sanırım. Bu son data 37 Mb civarı.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 13 Mart 2019, 17:08:03
Ayrıca elimde bir cfg dosyasıda var. Başlıkları ve bazı tanımlamaları içeriyor.
Başlık: Ynt: python ile dat file
Gönderen: algorist - 14 Mart 2019, 10:33:20
Alıntı yapılan: metaltrrocker - 06 Mart 2019, 13:17:41https://stackoverflow.com/questions/4166070/python-csv-error-line-contains-null-byte
Buradaki çözümleri denediniz mi?

Özel bilgiler içermeyen bir dosya ise buraya yükle boş zamanımda bakayım bir ihtimal çözüme ulaşabiliriz.
Merhaba eger hala ilgileniyorsaniz. Bir test dosyasi ;
https://drive.google.com/open?id=1DTgxrSx9Xmimez_qiGy27ZUVAz_D7tE4 (https://drive.google.com/open?id=1DTgxrSx9Xmimez_qiGy27ZUVAz_D7tE4)
Başlık: Ynt: python ile dat file
Gönderen: muhittin_kaplan - 14 Mart 2019, 22:18:29
Bakalım Hocam.