thumbnail
Sqlite大批量导入数据提高效率的几种方式
from--https://www.cnblogs.com/HPAHPA/articles/7662268.html Sqlite大批量导入数据提高效率的几种方式 本文为转载文章,转载地址:   http://blog.csdn.net/majiakun1/article/details/46607163(1-5,8小结)   http://blog.csdn.net/lijinqi1987/article/details/51852721(6-7小结) 前言 SQLite数据库由于其简单、灵活、轻量、开源,已经被越来越多的被应用到中小型应用中。甚至有人说,SQLite完全可以用来取代c语言中的文件读写操作。因此我最近编写有关遥感数据处理的程序的时候,也将SQLite引入进来,以提高数据的结构化程度,并且提高大数据的处理能力(SQLite最…
让 Python 更加充分的使用 Sqlite3
2018-01 from--https://www.cnblogs.com/xyou/p/8294982.html 我最近在涉及大量数据处理的项目中频繁使用 sqlite3。我最初的尝试根本不涉及任何数据库,所有的数据都将保存在内存中,包括字典查找、迭代和条件等查询。这很好,但可以放入内存的只有那么多,并且将数据从磁盘重新生成或加载到内存是一个繁琐又耗时的过程。 我决定试一试sqlite3。因为只需打开与数据库的连接,这样可以增加可处理的数据量,并将应用程序的加载时间减少到零。此外,我可以通过 SQL 查询替换很多Python逻辑语句。 我想分享一些关于这次经历的心得和发现。 TL;DR 使用大量操作 (又名 executemany)。 你不需要使用光标 (大部分时间)。 光标可被迭代。 使用上下文管理器。 使用编译指示 (当它有意义)。 …
thumbnail
有关Dockerfile 多阶段构建原理和使用场景的分享
2018-08 from--https://blog.csdn.net/weixin_42852772/article/details/82013418?utm_medium=distribute.pc_relevant.none-task-blog-baidujs-7 Docker 17.05版本以后,新增了Dockerfile多阶段构建。所谓多阶段构建,实际上是允许一个Dockerfile 中出现多个 FROM 指令。这样做有什么意义呢? 老版本Docker中为什么不支持多个 FROM 指令 在17.05版本之前的Docker,只允许Dockerfile中出现一个FROM指令,这得从镜像的本质说起。 在《Docker概念简介》 中我们提到,你可以简单理解Docker的镜像是一个压缩文件,其中包含了你需要的程序和一个文件系统。其实这样说是…
如何合并两个Docker 镜像
2015-07 from--http://dockone.io/article/527 【编者的话】当我们想让一个容器做两件事情,或者使一个Docker镜像包含来自两个不同镜像的依赖库时,我们就需要知道每个镜像的Dockerfile。本文介绍了如何通过docker history命令来对Docker镜像进行反向工程,得到它们的Dockerfile,并组织到一个Dockerfile里然后build,从而实现我们想做的事情。 常言道,“不要重复发明轮子!” 在使用Docker时,构建自己的镜像之前,最好在Docker Hub寻找一些可以直接使用的镜像做练习。把你的软件架构分布到一系列容器中,每一个容器只做一件事情,这样的效果非常好。构建分布式应用的最好的基石是使用来自Docker Hub的官方镜像,因为你可以信任它们的质量。 在某些情况下,你可…
Dockerfile多阶段构建镜像
2019-07 from--https://blog.csdn.net/wade3015/article/details/95729492 关于构建镜像最具挑战性的事情之一是保持镜像体积小巧。 Dockerfile 中的每条指令都会在镜像中增加一层,并且在移动到下一层之前,需要记住清除不需要的构件。要编写一个非常高效的 Dockerfile,你通常需要使用 shell 技巧和其它方式来尽可能地减少层数,并确保每一层都具有上一层所需的构件,而其它任何东西都不需要。 Docker是轻量化的,当我们在制作镜像的时候就应该尽量使得应用镜像轻量些,减少镜像的体积。例如一个简单的golang服务,如何构建一个最小的镜像: package main import ( "fmt" "net/http" "strings" ) func getNameLen…
在Docker容器中部署相互依赖的应用
2018-06 from--https://www.jianshu.com/p/ce422a045c3e 使用Docker命令和Dockerfile文件特别适合创建单独的容器。但如果你想在相互孤立的应用中建立网络通信互相调用,容器管理将很快变得非常混乱。为解决这个问题,Docker提供了一个名为Docker Compose的工具。 Compose 是一个用户定义和运行多个容器的 Docker 应用程序。在 Compose 中你可以使用 YAML 文件来配置你的应用服务。然后,只需要一个简单的命令,就可以创建并启动你配置的所有服务。 例如,它能够在一个命令中启动或停止一个复合服务,或者将多个服务的日志记录输出合并到一个虚拟终端机。 这里我们创建一个例子,让运行在两个不同Docker容器里的应用互相通信,并作为“一体”呈现给主机系统。我们将使用…
docker多服务依赖问题解决
2018-11 from--https://www.jianshu.com/p/2f8da2a45d6d 官方文档 废话: 一个稍微复杂点的项目,肯定不是一个单独的程序可以解决的,必定是许多程序组合起来的一个整体,它们之间存在一定的依赖关系,比如:nginx依赖web应用服务器tomcat,tomcat中的应用依赖mysql数据库和zookeeper配置,tomcat中的应用可能互相依赖等。本篇文章为了解决多个程序/服务部署在docker容器中如何根据依赖关系按顺序启动的问题。 普通的部署方式(直接在服务器安装各个应用:tomcat、mysql、nginx、zookeeper等) 如果人工去启动多个应用,肯定是等被依赖的服务准备好之后,再去启动下一个应用/服务;但是想要服务器自动启动就要靠脚本来检测被依赖的服务是否准备好,然后按顺序启动之后…