Market Collector снова обновлен — поддерживает импорт файлов формата CSV и предоставляет пользовательский источник данных

Недавно пользователю потребовалось использовать собственный файл формата CSV в качестве источника данных для системы бэктестинга количественной торговой платформы Inventor. Система бэктестинга платформы количественной торговли Inventor имеет много функций и проста и эффективна в использовании. Пока у вас есть данные, вы можете проводить бэктестинг, и вы больше не ограничены биржами и продуктами, поддерживаемыми центром обработки данных платформы .

Идеи дизайна

Идея дизайна на самом деле очень проста. Нам просто нужно внести небольшое изменение в предыдущий рыночный коллектор. Мы добавляем параметр в рыночный коллектор.isOnlySupportCSVИспользуется для управления использованием только CSV-файлов в качестве источников данных для системы бэктестинга, а также для добавления еще одного параметра.filePathForCSV, используется для установки пути к файлу данных CSV на сервере, где работает робот-сборщик рынка. Наконец, по словамisOnlySupportCSVУстановлен ли параметрTrueЧтобы решить, какой источник данных использовать (1. собранные вами, 2. данные в CSV-файле), это изменение в основном касаетсяProviderСортdo_GETфункция.

Что такое CSV-файл?

Файлы данных, разделенных запятыми (CSV, иногда также называемые значениями, разделенными символами, поскольку разделяющие символы могут отличаться от запятых) — это файлы, в которых табличные данные (числа и текст) хранятся в виде обычного текста. Обычный текст означает, что файл представляет собой последовательность символов и не содержит данных, которые необходимо интерпретировать как двоичные числа. Файл CSV состоит из любого количества записей, разделенных каким-либо символом переноса строки; каждая запись состоит из полей, а разделителем между полями являются другие символы или строки, наиболее распространенными из которых являются запятые или символы табуляции. Обычно все записи имеют абсолютно одинаковую последовательность полей. Обычно это простые текстовые файлы. Рекомендуется использовать WORDPAD или Notepad для его открытия. Другой способ — сохранить его как новый файл, а затем открыть его в EXCEL.

Универсального стандарта для формата файла CSV не существует, но есть определенные правила: как правило, одна строка на запись, причем первая строка является заголовком. Данные в каждой строке разделены запятыми.

Например, CSV-файл, который мы использовали для тестирования, при открытии с помощью Блокнота выглядит следующим образом:

Обратите внимание, что первая строка CSV-файла — это заголовок таблицы.

,open,high,low,close,vol

Нам нужно проанализировать и организовать эти данные, а затем построить их в формате, требуемом пользовательским источником данных системы бэктестинга. Это уже было сделано в коде в нашей предыдущей статье и требует лишь небольших изменений.

Измененный код

import _thread
import pymongo
import json
import math
import csv
from http.server import HTTPServer, BaseHTTPRequestHandler
from urllib.parse import parse_qs, urlparse

def url2Dict(url):
    query = urlparse(url).query  
    params = parse_qs(query)  
    result = {key: params[key][0] for key in params}  
    return result

class Provider(BaseHTTPRequestHandler):
    def do_GET(self):
        global isOnlySupportCSV, filePathForCSV
        try:
            self.send_response(200)
            self.send_header("Content-type", "application/json")
            self.end_headers()

            dictParam = url2Dict(self.path)
            Log("自定义数据源服务接收到请求，self.path:", self.path, "query 参数：", dictParam)
            
            # 目前回测系统只能从列表中选择交易所名称，在添加自定义数据源时，设置为币安，即：Binance
            exName = exchange.GetName()                                     
            # 注意，period为底层K线周期
            tabName = "%s_%s" % ("records", int(int(dictParam["period"]) / 1000))  
            priceRatio = math.pow(10, int(dictParam["round"]))
            amountRatio = math.pow(10, int(dictParam["vround"]))
            fromTS = int(dictParam["from"]) * int(1000)
            toTS = int(dictParam["to"]) * int(1000)

            # 要求应答的数据
            data = {
                "schema" : ["time", "open", "high", "low", "close", "vol"],
                "data" : []
            }
            
            if isOnlySupportCSV:
                # 处理CSV读取,filePathForCSV路径
                listDataSequence = []
                with open(filePathForCSV, "r") as f:
                    reader = csv.reader(f)
                    # 获取表头
                    header = next(reader)
                    headerIsNoneCount = 0
                    if len(header) != len(data["schema"]):
                        Log("CSV文件格式有误，列数不同，请检查！", "#FF0000")
                        return 
                    for ele in header:
                        for i in range(len(data["schema"])):
                            if data["schema"][i] == ele or ele == "":
                                if ele == "":
                                    headerIsNoneCount += 1
                                if headerIsNoneCount > 1:
                                    Log("CSV文件格式有误，请检查！", "#FF0000")
                                    return 
                                listDataSequence.append(i)
                                break
                    
                    # 读取内容
                    while True:
                        record = next(reader, -1)
                        if record == -1:
                            break
                        index = 0
                        arr = [0, 0, 0, 0, 0, 0]
                        for ele in record:
                            arr[listDataSequence[index]] = int(ele) if listDataSequence[index] == 0 else (int(float(ele) * amountRatio) if listDataSequence[index] == 5 else int(float(ele) * priceRatio))
                            index += 1
                        data["data"].append(arr)
                
                Log("数据：", data, "响应回测系统请求。")
                self.wfile.write(json.dumps(data).encode())
                return 
            
            # 连接数据库
            Log("连接数据库服务，获取数据，数据库：", exName, "表：", tabName)
            myDBClient = pymongo.MongoClient("mongodb://localhost:27017")
            ex_DB = myDBClient[exName]
            exRecords = ex_DB[tabName]
            
            # 构造查询条件：大于某个值{'age': {'$gt': 20}} 小于某个值{'age': {'$lt': 20}}
            dbQuery = {"$and":[{'Time': {'$gt': fromTS}}, {'Time': {'$lt': toTS}}]}
            Log("查询条件：", dbQuery, "查询条数：", exRecords.find(dbQuery).count(), "数据库总条数：", exRecords.find().count())
            
            for x in exRecords.find(dbQuery).sort("Time"):
                # 需要根据请求参数round和vround，处理数据精度
                bar = [x["Time"], int(x["Open"] * priceRatio), int(x["High"] * priceRatio), int(x["Low"] * priceRatio), int(x["Close"] * priceRatio), int(x["Volume"] * amountRatio)]
                data["data"].append(bar)
            
            Log("数据：", data, "响应回测系统请求。")
            # 写入数据应答
            self.wfile.write(json.dumps(data).encode())
        except BaseException as e:
            Log("Provider do_GET error, e:", e)


def createServer(host):
    try:
        server = HTTPServer(host, Provider)
        Log("Starting server, listen at: %s:%s" % host)
        server.serve_forever()
    except BaseException as e:
        Log("createServer error, e:", e)
        raise Exception("stop")

def main():
    LogReset(1)
    if (isOnlySupportCSV):
        try:
        # _thread.start_new_thread(createServer, (("localhost", 9090), ))         # 本机测试
            _thread.start_new_thread(createServer, (("0.0.0.0", 9090), ))         # VPS服务器上测试
            Log("开启自定义数据源服务线程，数据由CSV文件提供。", "#FF0000")
        except BaseException as e:
            Log("启动自定义数据源服务失败！")
            Log("错误信息：", e)
            raise Exception("stop")
        while True:
            LogStatus(_D(), "只启动自定义数据源服务，不收集数据！")
            Sleep(2000)
    
    exName = exchange.GetName()
    period = exchange.GetPeriod()
    Log("收集", exName, "交易所的K线数据，", "K线周期:", period, "秒")
    
    # 连接数据库服务，服务地址 mongodb://127.0.0.1:27017 具体看服务器上安装的mongodb设置
    Log("连接托管者所在设备mongodb服务，mongodb://localhost:27017")
    myDBClient = pymongo.MongoClient("mongodb://localhost:27017")   
    # 创建数据库
    ex_DB = myDBClient[exName]
    
    # 打印目前数据库表
    collist = ex_DB.list_collection_names()
    Log("mongodb ", exName, " collist:", collist)
    
    # 检测是否删除表
    arrDropNames = json.loads(dropNames)
    if isinstance(arrDropNames, list):
        for i in range(len(arrDropNames)):
            dropName = arrDropNames[i]
            if isinstance(dropName, str):
                if not dropName in collist:
                    continue
                tab = ex_DB[dropName]
                Log("dropName:", dropName, "删除：", dropName)
                ret = tab.drop()
                collist = ex_DB.list_collection_names()
                if dropName in collist:
                    Log(dropName, "删除失败")
                else :
                    Log(dropName, "删除成功")
    
    # 开启一个线程，提供自定义数据源服务
    try:
        # _thread.start_new_thread(createServer, (("localhost", 9090), ))     # 本机测试
        _thread.start_new_thread(createServer, (("0.0.0.0", 9090), ))         # VPS服务器上测试
        Log("开启自定义数据源服务线程", "#FF0000")
    except BaseException as e:
        Log("启动自定义数据源服务失败！")
        Log("错误信息：", e)
        raise Exception("stop")
    
    # 创建records表
    ex_DB_Records = ex_DB["%s_%d" % ("records", period)]
    Log("开始收集", exName, "K线数据", "周期：", period, "打开（创建）数据库表：", "%s_%d" % ("records", period), "#FF0000")
    preBarTime = 0
    index = 1
    while True:
        r = _C(exchange.GetRecords)
        if len(r) < 2:
            Sleep(1000)
            continue
        if preBarTime == 0:
            # 首次写入所有BAR数据
            for i in range(len(r) - 1):
                bar = r[i]
                # 逐根写入，需要判断当前数据库表中是否已经有该条数据，基于时间戳检测，如果有该条数据，则跳过，没有则写入
                retQuery = ex_DB_Records.find({"Time": bar["Time"]})
                if retQuery.count() > 0:
                    continue
                
                # 写入bar到数据库表
                ex_DB_Records.insert_one({"High": bar["High"], "Low": bar["Low"], "Open": bar["Open"], "Close": bar["Close"], "Time": bar["Time"], "Volume": bar["Volume"]})                
                index += 1
            preBarTime = r[-1]["Time"]
        elif preBarTime != r[-1]["Time"]:
            bar = r[-2]
            # 写入数据前检测，数据是否已经存在，基于时间戳检测
            retQuery = ex_DB_Records.find({"Time": bar["Time"]})
            if retQuery.count() > 0:
                continue
            
            ex_DB_Records.insert_one({"High": bar["High"], "Low": bar["Low"], "Open": bar["Open"], "Close": bar["Close"], "Time": bar["Time"], "Volume": bar["Volume"]})
            index += 1
            preBarTime = r[-1]["Time"]
        LogStatus(_D(), "preBarTime:", preBarTime, "_D(preBarTime):", _D(preBarTime/1000), "index:", index)
        # 增加画图展示
        ext.PlotRecords(r, "%s_%d" % ("records", period))
        Sleep(10000)
        

Проведение тестов

Сначала мы запускаем робота-сборщика рынка, добавляем к роботу биржу и запускаем робота. Конфигурация параметров:

Затем мы создаем стратегию тестирования:

function main() {
    Log(exchange.GetRecords())
    Log(exchange.GetRecords())
    Log(exchange.GetRecords())
}

Стратегия очень проста: требуется только получить и распечатать три K-линии данных.

На странице бэктестинга установите источник данных для системы бэктестинга на пользовательский источник данных и введите адрес сервера, на котором работает робот-сборщик рынка. Поскольку данные в нашем CSV-файле представляют собой 1-минутную К-линию. Поэтому при бэктестинге мы устанавливаем период К-линии на 1 минуту.

Нажмите «Начать бэктестинг», и робот-сборщик рынка получит запрос данных:

После того, как система бэктестинга завершает выполнение стратегии, она генерирует график K-линии на основе данных K-линии в источнике данных.

Сравните данные в файле:

RecordsCollecter (модернизирован для предоставления функции пользовательского источника данных, поддерживает файл данных CSV для предоставления источника данных)

Это только отправная точка, вы можете оставить сообщение.