布谷屋

JAVA使用XFire开发Web Service客户端几种调用方式

tiger7456 — Tue, 17 Apr 2012 11:47:34 +0800

一、服务提供者告诉你interface，你可以使用如下三种方式来开发：
YourService即是服务提供者告诉给你的一个interface(当然，也可以根据WSDL的定义，自己定义一个同样的interface)。

1、简单的方式

1 Service serviceModel = new ObjectServiceFactory().create(YourService.class);     
2 YourService service = (YourService)new XFireProxyFactory().create(serviceModel, http://your/remote/url);     

2、JSR 181注释的方式

Java语言: Codee#26117

1 Service serviceModel = new AnnotationServiceFactory().create(YourService.class);     
2 YourService client = (YourService)new XFireProxyFactory().create(serviceModel, "http://your/remote/url");     

3、混合方式

Java语言: Codee#26118

1 Service serviceModel = new AnnotationServiceFactory(new Jsr181WebAnnotations(), XFireFactory.newInstance().getXFire().getTransportManager(), new AegisBindingProvider(new JaxbTypeRegistry())).create(YourService.class);     

二、通过WSDL创建一个动态的客户端，如下：

Java语言: Codee#26119

01 import java.net.MalformedURLException;     
02 import java.net.URL;     
03     
04 import org.codehaus.xfire.client.Client;     
05     
06 public class DynamicClientTest {     
07     public static void main(String[] args) throws MalformedURLException, Exception {     
08         Client client = new Client(new URL("http://localhost:8080/xfiretest/services/TestService?wsdl"));     
09         Object[] results = client.invoke("sayHello", new Object[] { "Firends" });     
10         System.out.println(results[0]);     
11     }     
12 }     

三，使用ANT工具或命令行通过WSDL生成一个客户端：
1、使用ANT生成客户端，ANT脚本如下：

Java语言: Codee#26120

01 <?xml version="1.0"?>     
02 <project name="wsgen" default="wsgen" basedir=".">     
03     <path id="classpathId">     
04         <fileset dir="./WebRoot/WEB-INF/lib">     
05             <include name="*.jar" />     
06         </fileset>     
07     </path>     
08     <taskdef classpathref="classpathId" name="wsgen" classname="org.codehaus.xfire.gen.WsGenTask">     
09     </taskdef>     
10     <target name="wsgen" description="generate client">     
11         <wsgen outputDirectory="./src/" wsdl="abc.wsdl" binding="xmlbeans" package="com.abc.p" overwrite="true" />     
12     </target>     
13 </project>     

请注意，脚本中有一个参数binding，可以指定如下两种不同的方式：
(1)jaxb(Java Architecture for XML Binding，https://jaxb.dev.java.net/)：使用此种方式时，会自动生成更多的Request和Resopnse类。
(2)xmlbeans

调用方式如下：

Java语言: Codee#26121

AbcServiceClient client = new AbcServiceClient();     
String url = "http://localhost:8080/xfireTest/services/TestService";     
String result = client.getAbcPort(url).sayHello("Robin");     

2、使用命令生成客户端的命令如下：

Java语言: Codee#26122

gpath=xfire-all-1.2-SNAPSHOT.jar:ant-1.6.5.jar:jaxb-api-2.0EA3.jar:stax-api-1.0.1.jar:jdom-1.0.jar:jaxb-impl-2.0EA3.jar\    
:jaxb-xjc-2.0-ea3.jar:wstx-asl-2.9.3.jar:commons-logging-1.0.4.jar:activation-1.1.jar:wsdl4j-1.5.2.jar:XmlSchema-1.0.3.jar:xfire-jsr181-api-1.0-M1.jar;    
   
java -cp $gpath org.codehaus.xfire.gen.WsGen -wsdl http://localhost:8080/xfire/services/Bookservice?wsdl -o . -p pl.tomeks.client -overwrite true

其结果与ANT生成的一样。
四、参考资源：
1、XFire 1.2.6手册(http://xfire.codehaus.org/User%27s+Guide)
2、http://xfire.codehaus.org/Client+API
3、http://xfire.codehaus.org/Dynamic+Client

转至：http://my.oschina.net/lovedreamland/blog/52977

20个常用的Java程序块

tiger7456 — Tue, 17 Apr 2012 11:37:28 +0800

Java语言: Codee#26115

//1. 字符串有整型的相互转换     
String a = String.valueOf(2); //integer to numeric string     
int i = Integer.parseInt(a); //numeric string to an int    
   
//2. 向文件末尾添加内容     
BufferedWriter out = null;     
try {     
out = new BufferedWriter(new FileWriter(”filename”, true));     
out.write(”aString”);     
} catch (IOException e) {     
// error processing code    
   
} finally {     
if (out != null) {     
out.close();     
}    
   
}    
   
//3. 得到当前方法的名字     
String methodName = Thread.currentThread().getStackTrace()[1].getMethodName();    
   
//4. 转字符串到日期     
java.util.Date = java.text.DateFormat.getDateInstance().parse(date String);     
//或者是：     
SimpleDateFormat format = new SimpleDateFormat( "dd.MM.yyyy" );     
Date date = format.parse( myString );    
   
//5. 使用JDBC链接Oracle     
public class OracleJdbcTest     
{     
String driverClass = "oracle.jdbc.driver.OracleDriver";    
   
Connection con;    
   
public void init(FileInputStream fs) throws ClassNotFoundException, SQLException, FileNotFoundException, IOException     
{     
Properties props = new Properties();     
props.load(fs);     
String url = props.getProperty("db.url");     
String userName = props.getProperty("db.user");     
String password = props.getProperty("db.password");     
Class.forName(driverClass);    
   
con=DriverManager.getConnection(url, userName, password);     
}    
   
public void fetch() throws SQLException, IOException     
{     
PreparedStatement ps = con.prepareStatement("select SYSDATE from dual");     
ResultSet rs = ps.executeQuery();    
   
while (rs.next())     
{     
// do the thing you do     
}     
rs.close();     
ps.close();     
}    
   
public static void main(String[] args)     
{     
OracleJdbcTest test = new OracleJdbcTest();     
test.init();     
test.fetch();     
}     
}    
   
6. 把 Java util.Date 转成 sql.Date     
java.util.Date utilDate = new java.util.Date();     
java.sql.Date sqlDate = new java.sql.Date(utilDate.getTime());    
   
//7. 使用NIO进行快速的文件拷贝     
public static void fileCopy( File in, File out )     
throws IOException     
{     
FileChannel inChannel = new FileInputStream( in ).getChannel();     
FileChannel outChannel = new FileOutputStream( out ).getChannel();     
try     
{     
// inChannel.transferTo(0, inChannel.size(), outChannel); // original -- apparently has trouble copying large files on Windows    
   
// magic number for Windows, 64Mb - 32Kb)     
int maxCount = (64 * 1024 * 1024) - (32 * 1024);     
long size = inChannel.size();     
long position = 0;     
while ( position < size )     
{     
position += inChannel.transferTo( position, maxCount, outChannel );     
}     
}     
finally     
{     
if ( inChannel != null )     
{     
inChannel.close();     
}     
if ( outChannel != null )     
{     
outChannel.close();     
}     
}     
}    
   
//8. 创建图片的缩略图     
private void createThumbnail(String filename, int thumbWidth, int thumbHeight, int quality, String outFilename)     
throws InterruptedException, FileNotFoundException, IOException     
{     
// load image from filename     
Image image = Toolkit.getDefaultToolkit().getImage(filename);     
MediaTracker mediaTracker = new MediaTracker(new Container());     
mediaTracker.addImage(image, 0);     
mediaTracker.waitForID(0);     
// use this to test for errors at this point: System.out.println(mediaTracker.isErrorAny());    
   
// determine thumbnail size from WIDTH and HEIGHT     
double thumbRatio = (double)thumbWidth / (double)thumbHeight;     
int imageWidth = image.getWidth(null);     
int imageHeight = image.getHeight(null);     
double imageRatio = (double)imageWidth / (double)imageHeight;     
if (thumbRatio < imageRatio) {     
thumbHeight = (int)(thumbWidth / imageRatio);     
} else {     
thumbWidth = (int)(thumbHeight * imageRatio);     
}    
   
// draw original image to thumbnail image object and     
// scale it to the new size on-the-fly     
BufferedImage thumbImage = new BufferedImage(thumbWidth, thumbHeight, BufferedImage.TYPE_INT_RGB);     
Graphics2D graphics2D = thumbImage.createGraphics();     
graphics2D.setRenderingHint(RenderingHints.KEY_INTERPOLATION, RenderingHints.VALUE_INTERPOLATION_BILINEAR);     
graphics2D.drawImage(image, 0, 0, thumbWidth, thumbHeight, null);    
   
// save thumbnail image to outFilename     
BufferedOutputStream out = new BufferedOutputStream(new FileOutputStream(outFilename));     
JPEGImageEncoder encoder = JPEGCodec.createJPEGEncoder(out);     
JPEGEncodeParam param = encoder.getDefaultJPEGEncodeParam(thumbImage);     
quality = Math.max(0, Math.min(quality, 100));     
param.setQuality((float)quality / 100.0f, false);     
encoder.setJPEGEncodeParam(param);     
encoder.encode(thumbImage);     
out.close();     
}    
   
//9. 创建 JSON 格式的数据     
import org.json.JSONObject;     
...     
...     
JSONObject json = new JSONObject();     
json.put("city", "Mumbai");     
json.put("country", "India");     
...     
String output = json.toString();     
...    
   
//10. 使用iText JAR生成PDF     
import java.io.File;     
import java.io.FileOutputStream;     
import java.io.OutputStream;     
import java.util.Date;    
   
import com.lowagie.text.Document;     
import com.lowagie.text.Paragraph;     
import com.lowagie.text.pdf.PdfWriter;    
   
public class GeneratePDF {    
   
public static void main(String[] args) {     
try {     
OutputStream file = new FileOutputStream(new File("C:\\Test.pdf"));    
   
Document document = new Document();     
PdfWriter.getInstance(document, file);     
document.open();     
document.add(new Paragraph("Hello Kiran"));     
document.add(new Paragraph(new Date().toString()));    
   
document.close();     
file.close();    
   
} catch (Exception e) {    
   
e.printStackTrace();     
}     
}     
}    
   
//11. HTTP 代理设置     
System.getProperties().put("http.proxyHost", "someProxyURL");     
System.getProperties().put("http.proxyPort", "someProxyPort");     
System.getProperties().put("http.proxyUser", "someUserName");     
System.getProperties().put("http.proxyPassword", "somePassword");    
   
//12. 单实例Singleton 示例     
public class SimpleSingleton {     
private static SimpleSingleton singleInstance = new SimpleSingleton();    
   
//Marking default constructor private     
//to avoid direct instantiation.     
private SimpleSingleton() {     
}    
   
//Get instance for class SimpleSingleton     
public static SimpleSingleton getInstance() {    
   
return singleInstance;     
}     
}    
   
//另一种实现    
   
public enum SimpleSingleton {     
INSTANCE;     
public void doSomething() {     
}     
}    
   
//Call the method from Singleton:     
SimpleSingleton.INSTANCE.doSomething();    
   
//13. 抓屏程序     
import java.awt.Dimension;     
import java.awt.Rectangle;     
import java.awt.Robot;     
import java.awt.Toolkit;     
import java.awt.image.BufferedImage;     
import javax.imageio.ImageIO;     
import java.io.File;    
   
...     
public void captureScreen(String fileName) throws Exception {    
   
Dimension screenSize = Toolkit.getDefaultToolkit().getScreenSize();     
Rectangle screenRectangle = new Rectangle(screenSize);     
Robot robot = new Robot();     
BufferedImage image = robot.createScreenCapture(screenRectangle);     
ImageIO.write(image, "png", new File(fileName));    
   
}     
//14. 列出文件和目录     
File dir = new File("directoryName");     
String[] children = dir.list();     
if (children == null) {     
// Either dir does not exist or is not a directory     
} else {     
for (int i=0; i < children.length; i++) {     
// Get filename of file or directory     
String filename = children[i];     
}     
}    
   
// It is also possible to filter the list of returned files.     
// This example does not return any files that start with `.’.     
FilenameFilter filter = new FilenameFilter() {     
public boolean accept(File dir, String name) {     
return !name.startsWith(".");     
}     
};     
children = dir.list(filter);    
   
// The list of files can also be retrieved as File objects     
File[] files = dir.listFiles();    
   
// This filter only returns directories     
FileFilter fileFilter = new FileFilter() {     
public boolean accept(File file) {     
return file.isDirectory();     
}     
};     
files = dir.listFiles(fileFilter);    
   
//15. 创建ZIP和JAR文件    
   
import java.util.zip.*;     
import java.io.*;    
   
public class ZipIt {     
public static void main(String args[]) throws IOException {     
if (args.length < 2) {     
System.err.println("usage: java ZipIt Zip.zip file1 file2 file3");     
System.exit(-1);     
}     
File zipFile = new File(args[0]);     
if (zipFile.exists()) {     
System.err.println("Zip file already exists, please try another");     
System.exit(-2);     
}     
FileOutputStream fos = new FileOutputStream(zipFile);     
ZipOutputStream zos = new ZipOutputStream(fos);     
int bytesRead;     
byte[] buffer = new byte[1024];     
CRC32 crc = new CRC32();     
for (int i=1, n=args.length; i < n; i++) {     
String name = args[i];     
File file = new File(name);     
if (!file.exists()) {     
System.err.println("Skipping: " + name);     
continue;     
}     
BufferedInputStream bis = new BufferedInputStream(     
new FileInputStream(file));     
crc.reset();     
while ((bytesRead = bis.read(buffer)) != -1) {     
crc.update(buffer, 0, bytesRead);     
}     
bis.close();     
// Reset to beginning of input stream     
bis = new BufferedInputStream(     
new FileInputStream(file));     
ZipEntry entry = new ZipEntry(name);     
entry.setMethod(ZipEntry.STORED);     
entry.setCompressedSize(file.length());     
entry.setSize(file.length());     
entry.setCrc(crc.getValue());     
zos.putNextEntry(entry);     
while ((bytesRead = bis.read(buffer)) != -1) {     
zos.write(buffer, 0, bytesRead);     
}     
bis.close();     
}     
zos.close();     
}     
}    
   
//16. 解析/读取XML 文件     
XML文件     
<?xml version="1.0"?>     
<students>     
<student>     
<name>John</name>     
<grade>B</grade>     
<age>12</age>     
</student>     
<student>     
<name>Mary</name>     
<grade>A</grade>     
<age>11</age>     
</student>     
<student>     
<name>Simon</name>     
<grade>A</grade>     
<age>18</age>     
</student>     
</students>    
   
//Java代码     
package net.viralpatel.java.xmlparser;    
   
import java.io.File;     
import javax.xml.parsers.DocumentBuilder;     
import javax.xml.parsers.DocumentBuilderFactory;    
   
import org.w3c.dom.Document;     
import org.w3c.dom.Element;     
import org.w3c.dom.Node;     
import org.w3c.dom.NodeList;    
   
public class XMLParser {    
   
public void getAllUserNames(String fileName) {     
try {     
DocumentBuilderFactory dbf = DocumentBuilderFactory.newInstance();     
DocumentBuilder db = dbf.newDocumentBuilder();     
File file = new File(fileName);     
if (file.exists()) {     
Document doc = db.parse(file);     
Element docEle = doc.getDocumentElement();    
   
// Print root element of the document     
System.out.println("Root element of the document: "     
+ docEle.getNodeName());    
   
NodeList studentList = docEle.getElementsByTagName("student");    
   
// Print total student elements in document     
System.out     
.println("Total students: " + studentList.getLength());    
   
if (studentList != null && studentList.getLength() > 0) {     
for (int i = 0; i < studentList.getLength(); i++) {    
   
Node node = studentList.item(i);    
   
if (node.getNodeType() == Node.ELEMENT_NODE) {    
   
System.out     
.println("=====================");    
   
Element e = (Element) node;     
NodeList nodeList = e.getElementsByTagName("name");     
System.out.println("Name: "     
+ nodeList.item(0).getChildNodes().item(0)     
.getNodeValue());    
   
nodeList = e.getElementsByTagName("grade");     
System.out.println("Grade: "     
+ nodeList.item(0).getChildNodes().item(0)     
.getNodeValue());    
   
nodeList = e.getElementsByTagName("age");     
System.out.println("Age: "     
+ nodeList.item(0).getChildNodes().item(0)     
.getNodeValue());     
}     
}     
} else {     
System.exit(1);     
}     
}     
} catch (Exception e) {     
System.out.println(e);     
}     
}     
public static void main(String[] args) {    
   
XMLParser parser = new XMLParser();     
parser.getAllUserNames("c:\\test.xml");     
}     
}     
//17. 把 Array 转换成 Map     
import java.util.Map;     
import org.apache.commons.lang.ArrayUtils;    
   
public class Main {    
   
public static void main(String[] args) {     
String[ ][ ] countries = { { "United States", "New York" }, { "United Kingdom", "London" },     
{ "Netherland", "Amsterdam" }, { "Japan", "Tokyo" }, { "France", "Paris" } };    
   
Map countryCapitals = ArrayUtils.toMap(countries);    
   
System.out.println("Capital of Japan is " + countryCapitals.get("Japan"));     
System.out.println("Capital of France is " + countryCapitals.get("France"));     
}     
}    
   
//18. 发送邮件     
import javax.mail.*;     
import javax.mail.internet.*;     
import java.util.*;    
   
public void postMail( String recipients[ ], String subject, String message , String from) throws MessagingException     
{     
boolean debug = false;    
   
//Set the host smtp address     
Properties props = new Properties();     
props.put("mail.smtp.host", "smtp.example.com");    
   
// create some properties and get the default Session     
Session session = Session.getDefaultInstance(props, null);     
session.setDebug(debug);    
   
// create a message     
Message msg = new MimeMessage(session);    
   
// set the from and to address     
InternetAddress addressFrom = new InternetAddress(from);     
msg.setFrom(addressFrom);    
   
InternetAddress[] addressTo = new InternetAddress[recipients.length];     
for (int i = 0; i < recipients.length; i++)     
{     
addressTo[i] = new InternetAddress(recipients[i]);     
}     
msg.setRecipients(Message.RecipientType.TO, addressTo);    
   
// Optional : You can also set your custom headers in the Email if you Want     
msg.addHeader("MyHeaderName", "myHeaderValue");    
   
// Setting the Subject and Content Type     
msg.setSubject(subject);     
msg.setContent(message, "text/plain");     
Transport.send(msg);     
}    
   
//19. 发送代数据的HTTP 请求     
import java.io.BufferedReader;     
import java.io.InputStreamReader;     
import java.net.URL;    
   
public class Main {     
public static void main(String[] args) {     
try {     
URL my_url = new URL("http://cocre.com/");     
BufferedReader br = new BufferedReader(new InputStreamReader(my_url.openStream()));     
String strTemp = "";     
while(null != (strTemp = br.readLine())){     
System.out.println(strTemp);     
}     
} catch (Exception ex) {     
ex.printStackTrace();     
}     
}     
}    
   
//20. 改变数组的大小     
/**     
* Reallocates an array with a new size, and copies the contents     
* of the old array to the new array.     
* @param oldArray the old array, to be reallocated.     
* @param newSize the new array size.     
* @return A new array with the same contents.     
*/     
private static Object resizeArray (Object oldArray, int newSize) {     
int oldSize = java.lang.reflect.Array.getLength(oldArray);     
Class elementType = oldArray.getClass().getComponentType();     
Object newArray = java.lang.reflect.Array.newInstance(     
elementType,newSize);     
int preserveLength = Math.min(oldSize,newSize);     
if (preserveLength > 0)     
System.arraycopy (oldArray,0,newArray,0,preserveLength);     
return newArray;     
}    
   
// Test routine for resizeArray().     
public static void main (String[] args) {     
int[] a = {1,2,3};     
a = (int[])resizeArray(a,5);     
a[3] = 4;     
a[4] = 5;     
for (int i=0; i<a.length; i++)  
System.out.println (a[i]);     
}

转：http://my.oschina.net/mrlin/blog/48672    

Java中的委托模式

tiger7456 — Tue, 17 Apr 2012 11:33:55 +0800

委托模式是软件设计模式中的一项基本技巧。在委托模式中，有两个对象参与处理同一个请求，接受请求的对象将请求委托给另一个对象来处理。委托模式是一项基本技巧，许多其他的模式，如状态模式、策略模式、访问者模式本质上是在更特殊的场合采用了委托模式。委托模式使得我们可以用聚合来替代继承，它还使我们可以模拟mixin。
“委托”在C#中是一个语言级特性，而在Java语言中没有直接的对应，但是我们可以通过动态代理来实现委托！

Java语言: Codee#26113

01 import java.lang.reflect.InvocationHandler;     
02 import java.lang.reflect.Method;     
03 import java.lang.reflect.Proxy;     
04     
05 public abstract class Delegator implements InvocationHandler {     
06      //--------------------------------------------     
07     
08     protected Object obj_orgin = null; //原始对象     
09      protected Object obj_proxy = null; //代理对象     
10      //--------------------------------------------     
11     
12     public Delegator() {     
13      }     
14     
15     public Delegator(Object orgin) {     
16          this.createProxy(orgin);     
17      }     
18     
19     
20     protected Object createProxy(Object orgin) {     
21          obj_orgin = orgin;     
22          //下面语句中orgin.getClass().getClassLoader()为加载器，orgin.getClass().getInterfaces()为接口集     
23          obj_proxy = Proxy.newProxyInstance(orgin.getClass().getClassLoader(), orgin.getClass().getInterfaces(), this); //委托     
24          return obj_proxy;     
25      }     
26     
27     
28     protected Object invokeSuper(Method method, Object[] args) throws Throwable {     
29          return method.invoke(obj_orgin, args);     
30      }     
31      //--------------实现InvocationHandler接口，要求覆盖------------     
32      //下面实现的方法是当委托的类调用toString()方法时，操作其他方法而不是该类默认的toString()，这个类的其他方法则不会。     
33     
34     public Object invoke(Object obj, Method method, Object[] args) throws Throwable {     
35          // 缺省实现：委托给obj_orgin完成对应的操作     
36          if (method.getName().equals("toString")) { //对其做额外处理     
37              return this.invokeSuper(method, args) + "$Proxy";     
38          } else { //注意，调用原始对象的方法，而不是代理的（obj==obj_proxy）     
39              return this.invokeSuper(method, args);     
40          }     
41      }     
42 }

下面的代码，则是作为一个委托的例子，实现Map的功能。

Java语言: Codee#26114

01 import java.io.IOException;    
02 import java.lang.reflect.Method;    
03 import java.util.Hashtable;    
04 import java.util.Map;    
05 import org.apache.commons.logging.Log;    
06 import org.apache.commons.logging.LogFactory;    
07 import com.bs2.core.UtilLog;    
08     
09 public class Delegator4Map extends Delegator {    
10      private static Log _log = LogFactory.getLog(Delegator4Map.class);    
11      private Map orginClass = null; //原始对象    
12      private Map proxyClass = null; //代理对象    
13     
14     public Map getOrgin() {    
15          return orginClass;    
16      }    
17     
18     public Map getProxy() {    
19          return proxyClass;    
20      }    
21     
22     public Delegator4Map(Map orgin) {    
23          super(orgin);    
24          orginClass = orgin;    
25          proxyClass = (Map) super.obj_proxy;    
26      }    
27     
28     public Object invoke(Object obj, Method method, Object[] args) throws Throwable {    
29          if (method.getName().equals("size")) { //修改size处理逻辑    
30              Object res2 = new Integer(-1);    
31              System.out.println("调用委托的方法");    
32              return res2;    
33          } else {    
34              System.out.println("调用原始的方法");    
35              return super.invoke(obj, method, args);    
36          }    
37      }    
38     
39     public static void main(String[] args) throws IOException {    
40          Delegator4Map rtm = new Delegator4Map(new Hashtable());    
41          Map m = rtm.getProxy();    
42          m.size();    
43      }    
44 }    

代码编写有个这样的原则：能不用继承就不用继承，能使用委托实现的就不使用继承。两个类有明显示的层级关系时使用继承，没有明显的层级关系，仅仅是为了在一个类中使用另一个类的方法时应该使用委托。
根据《重构》一书称：现在有滥用继承的趋势，JDK 中 Stack 就是一个滥用继承的典型！
java.util.Stack 继承自 java.util.Vector，其实 Stack 与 Vector 在用途上完全是风马牛不相及的两个容器。

原文地址：http://my.oschina.net/u/108286/blog/33103

Java生成流水号

tiger7456 — Tue, 17 Apr 2012 11:27:14 +0800

项目中，需要生成一个流水账号作为数据表主键，完成后，觉得还可以，不敢独享，遂贴出以供拍砖。

流水号格式为yyyyMMddXXXX，规定每天只能到9999，代码如下：

Java语言: Codee#26112

01 import java.text.DecimalFormat;    
02 import java.text.SimpleDateFormat;    
03 import java.util.Date;    
04     
05 public class PrimaryGenerater {    
06     
07     private static final String SERIAL_NUMBER = "XXXX"; // 流水号格式    
08     private static PrimaryGenerater primaryGenerater = null;    
09     
10     private PrimaryGenerater() {    
11     }    
12     
13     /**    
14      * 取得PrimaryGenerater的单例实现    
15      *     
16      * @return    
17      */    
18     public static PrimaryGenerater getInstance() {    
19         if (primaryGenerater == null) {    
20             synchronized (PrimaryGenerater.class) {    
21                 if (primaryGenerater == null) {    
22                     primaryGenerater = new PrimaryGenerater();    
23                 }    
24             }    
25         }    
26         return primaryGenerater;    
27     }    
28     
29     /**    
30      * 生成下一个编号    
31      */    
32     public synchronized String generaterNextNumber(String sno) {    
33         String id = null;    
34         Date date = new Date();    
35         SimpleDateFormat formatter = new SimpleDateFormat("yyyyMMdd");    
36         if (sno == null) {    
37             id = formatter.format(date) + "0001";    
38         } else {    
39             int count = SERIAL_NUMBER.length();    
40             StringBuilder sb = new StringBuilder();    
41             for (int i = 0; i < count; i++) {    
42                 sb.append("0");    
43             }    
44             DecimalFormat df = new DecimalFormat("0000");    
45             id = formatter.format(date)    
46                     + df.format(1 + Integer.parseInt(sno.substring(8, 12)));    
47         }    
48         return id;    
49     }    
50 }    

转：http://my.oschina.net/se77en/blog/41122

ant执行的时候内存溢出解决办法

tiger7456 — Tue, 17 Apr 2012 11:17:15 +0800

ant执行的时候内存溢出

1、在ant.bat文件中增加缓存，追加-Xms128m -Xmx256m参数：

java -Xms128m -Xmx256m -classpath "%ANTCLASSPATH%" org.apache.tools.ant.Main %ANT_ARGS%

2、使用eclipse运行ant时，应如下设定参数：

build.xml文件右键-〉运行-〉外部工具-〉选择JRE页-〉VM参数处设定 -Xms128m -Xmx256m即可。

转至：http://hi.baidu.com/fan_run/blog/item/c5d2963406952f46241f1411.html

MyEclipse10.0 采用lnk方法安装SVN1.8.5

tiger7456 — Thu, 12 Apr 2012 11:42:55 +0800

一、到官方上下载svn1.8.3，下载后的文件名叫site-1.8.3.zip

二、解压，删除解压后得到的文件中除了名叫features和plugins的两个文件夹以外的其他所有文件。

三、在MyEclipse10.0的安装目录中自己新建一个文件夹（我的叫MyPlugins）然后把解压并删除过文件后得到的那个SVN文件夹复制到该目录；

四、在MyEclipse10.0的安装目录下的dropins文件夹中建立一个文本文件，内容输path=你的svn路径，（我的是path=D:\\MyEclipse 10\\MyPlugins\\SVN-1.8.5），然后保存，保存后将该文件名重命名成SVN.lnk(记住扩展名是是.lnk不是网上有网友说的link).

五、接下来删除 MyEclipse10.0的安装目录下configuration文件夹中的org.eclipse.update文件夹。

六、重启－〉OK。

eclipse的svn插件找不到 javaHL

tiger7456 — Thu, 12 Apr 2012 09:52:18 +0800

Subclipse是一个很优秀的SVN客户端。它提供了ClientAdapter、JavaHL和SVNKit等方式于SVN服务交互。官方强烈推荐使用JavaHL的方式。JavaHL使用JNI的调用SVN的本地库。速度快，稳定可靠。

但是在64位的Win7下，就比较麻烦了。默认安装好后， Subclipse的配置界面中，显示的javaHL的状态是“unavailable“，如图。这是因为系统中没有安装svn的javahl。

Eclipse 中使用Subsvn时的错误提示 原因是SVN接口 Unavailable

解决办法是安装 SlikSVN，可以在http://www.sliksvn.com/en/download下载SlikSVN，不同的Subsvn要安装不同的SlikSVN。

当前版本对应

Subclipse Version

SVN/JavaHL Version

1.6.x

1.4.x

1.5.x

1.2.x

1.4.x

1.0.x

1.4.x

下载安装完SlikSVN后，配置系统环境变量，把SlikSVN安装目录下的bin目录加入到系统环境变量：

重新启动Eclipse，你会看到Subsvn已经有JavaHL库了

转载至：http://hkp.iteye.com/blog/1174499

位运算简介及实用技巧（一）：基础篇

tiger7456 — Fri, 06 Apr 2012 10:34:33 +0800

什么是位运算？
程序中的所有数在计算机内存中都是以二进制的形式储存的。位运算说穿了，就是直接对整数在内存中的二进制位进行操作。比如，and运算本来是一个逻辑运算符，但整数与整数之间也可以进行and运算。举个例子，6的二进制是110，11的二进制是1011，那么6 and 11的结果就是2，它是二进制对应位进行逻辑运算的结果（0表示False，1表示True，空位都当0处理）：
110
AND 1011
----------
0010 --> 2
由于位运算直接对内存数据进行操作，不需要转成十进制，因此处理速度非常快。当然有人会说，这个快了有什么用，计算6 and 11没有什么实际意义啊。这一系列的文章就将告诉你，位运算到底可以干什么，有些什么经典应用，以及如何用位运算优化你的程序。
Pascal和C中的位运算符号
下面的a和b都是整数类型，则：
C语言 | Pascal语言
------- +-------------
a & b | a and b
a | b | a or b
a ^ b | a xor b
~a | not a
a << b | a shl b
a >> b | a shr b
注意C中的逻辑运算和位运算符号是不同的。520|1314=1834，但520||1314=1，因为逻辑运算时520和1314都相当于True。同样的，!a和~a也是有区别的。
各种位运算的使用
=== 1. and运算 ===
and运算通常用于二进制取位操作，例如一个数 and 1的结果就是取二进制的最末位。这可以用来判断一个整数的奇偶，二进制的最末位为0表示该数为偶数，最末位为1表示该数为奇数.
=== 2. or运算 ===
or运算通常用于二进制特定位上的无条件赋值，例如一个数or 1的结果就是把二进制最末位强行变成1。如果需要把二进制最末位变成0，对这个数or 1之后再减一就可以了，其实际意义就是把这个数强行变成最接近的偶数。
=== 3. xor运算 ===
xor运算通常用于对二进制的特定一位进行取反操作，因为异或可以这样定义：0和1异或0都不变，异或1则取反。
xor运算的逆运算是它本身，也就是说两次异或同一个数最后结果不变，即(a xor b) xor b = a。xor运算可以用于简单的加密，比如我想对我MM说1314520，但怕别人知道，于是双方约定拿我的生日19880516作为密钥。1314520 xor 19880516 = 20665500，我就把20665500告诉MM。MM再次计算20665500 xor 19880516的值，得到1314520，于是她就明白了我的企图。
下面我们看另外一个东西。定义两个符号#和@（我怎么找不到那个圈里有个叉的字符），这两个符号互为逆运算，也就是说(x # y) @ y = x。现在依次执行下面三条命令，结果是什么？

x <- x # y

y <- x @ y

x <- x @ y

执行了第一句后x变成了x # y。那么第二句实质就是y <- x # y @ y，由于#和@互为逆运算，那么此时的y变成了原来的x。第三句中x实际上被赋值为(x # y) @ x，如果#运算具有交换律，那么赋值后x就变成最初的y了。这三句话的结果是，x和y的位置互换了。
加法和减法互为逆运算，并且加法满足交换律。把#换成+，把@换成-，我们可以写出一个不需要临时变量的swap过程(Pascal)。

procedure swap(var a,b:longint);

begin

   a:=a + b;

   b:=a - b;

   a:=a - b;

end;

好了，刚才不是说xor的逆运算是它本身吗？于是我们就有了一个看起来非常诡异的swap过程：

procedure swap(var a,b:longint);

begin

   a:=a xor b;

   b:=a xor b;

   a:=a xor b;

end;

=== 4. not运算 ===

not运算的定义是把内存中的0和1全部取反。使用not运算时要格外小心，你需要注意整数类型有没有符号。如果not的对象是无符号整数（不能表示负数），那么得到的值就是它与该类型上界的差，因为无符号类型的数是用$0000到$FFFF依次表示的。下面的两个程序（仅语言不同）均返回65435。

var

   a:word;

begin

   a:=100;

   a:=not a;

   writeln(a);

end.

#include <stdio.h>

int main()

    unsigned short a=100;

    a = ~a;

    printf( "%d\n", a );

    return 0;

如果not的对象是有符号的整数，情况就不一样了，稍后我们会在“整数类型的储存”小节中提到。

=== 5. shl运算 ===

a shl b就表示把a转为二进制后左移b位（在后面添b个0）。例如100的二进制为1100100，而110010000转成十进制是400，那么100 shl 2 = 400。可以看出，a shl b的值实际上就是a乘以2的b次方，因为在二进制数后添一个0就相当于该数乘以2。

通常认为a shl 1比a * 2更快，因为前者是更底层一些的操作。因此程序中乘以2的操作请尽量用左移一位来代替。

定义一些常量可能会用到shl运算。你可以方便地用1 shl 16 - 1来表示65535。很多算法和数据结构要求数据规模必须是2的幂，此时可以用shl来定义Max_N等常量。

=== 6. shr运算 ===

和shl相似，a shr b表示二进制右移b位（去掉末b位），相当于a除以2的b次方（取整）。我们也经常用shr 1来代替div 2，比如二分查找、堆的插入操作等等。想办法用shr代替除法运算可以使程序效率大大提高。最大公约数的二进制算法用除以2操作来代替慢得出奇的mod运算，效率可以提高60%。

位运算的简单应用

有时我们的程序需要一个规模不大的Hash表来记录状态。比如，做数独时我们需要27个Hash表来统计每一行、每一列和每一个小九宫格里已经有哪些数了。此时，我们可以用27个小于2^9的整数进行记录。例如，一个只填了2和5的小九宫格就用数字18表示（二进制为000010010），而某一行的状态为511则表示这一行已经填满。需要改变状态时我们不需要把这个数转成二进制修改后再转回去，而是直接进行位操作。在搜索时，把状态表示成整数可以更好地进行判重等操作。这道题是在搜索中使用位运算加速的经典例子。以后我们会看到更多的例子。

下面列举了一些常见的二进制位的变换操作。

功能 | 示例 | 位运算

----------------------+---------------------------+--------------------

去掉最后一位 | (101101->10110) | x shr 1

在最后加一个0 | (101101->1011010) | x shl 1

在最后加一个1 | (101101->1011011) | x shl 1+1

把最后一位变成1 | (101100->101101) | x or 1

把最后一位变成0 | (101101->101100) | x or 1-1

最后一位取反 | (101101->101100) | x xor 1

把右数第k位变成1 | (101001->101101,k=3) | x or (1 shl (k-1))

把右数第k位变成0 | (101101->101001,k=3) | x and not (1 shl (k-1))

右数第k位取反 | (101001->101101,k=3) | x xor (1 shl (k-1))

取末三位 | (1101101->101) | x and 7

取末k位 | (1101101->1101,k=5) | x and (1 shl k-1)

取右数第k位 | (1101101->1,k=4) | x shr (k-1) and 1

把末k位变成1 | (101001->101111,k=4) | x or (1 shl k-1)

末k位取反 | (101001->100110,k=4) | x xor (1 shl k-1)

把右边连续的1变成0 | (100101111->100100000) | x and (x+1)

把右起第一个0变成1 | (100101111->100111111) | x or (x+1)

把右边连续的0变成1 | (11011000->11011111) | x or (x-1)

取右边连续的1 | (100101111->1111) | (x xor (x+1)) shr 1

去掉右起第一个1的左边 | (100101000->1000) | x and (x xor (x-1))

最后这一个在树状数组中会用到。

Pascal和C中的16进制表示

Pascal中需要在16进制数前加$符号表示，C中需要在前面加0x来表示。这个以后我们会经常用到。

整数类型的储存

我们前面所说的位运算都没有涉及负数，都假设这些运算是在unsigned/word类型（只能表示正数的整型）上进行操作。但计算机如何处理有正负符号的整数类型呢？下面两个程序都是考察16位整数的储存方式（只是语言不同）。

var

   a,b:integer;

begin

   a:=$0000;

   b:=$0001;

   write(a,' ',b,' ');

   a:=$FFFE;

   b:=$FFFF;

   write(a,' ',b,' ');

   a:=$7FFF;

   b:=$8000;

   writeln(a,' ',b);

end.

#include <stdio.h>

int main()

    short int a, b;

    a = 0x0000;

    b = 0x0001;

    printf( "%d %d ", a, b );

    a = 0xFFFE;

    b = 0xFFFF;

    printf( "%d %d ", a, b );

    a = 0x7FFF;

    b = 0x8000;

    printf( "%d %d\n", a, b );

    return 0;

两个程序的输出均为0 1 -2 -1 32767 -32768。其中前两个数是内存值最小的时候，中间两个数则是内存值最大的时候，最后输出的两个数是正数与负数的分界处。由此你可以清楚地看到计算机是如何储存一个整数的：计算机用$0000到$7FFF依次表示0到32767的数，剩下的$8000到$FFFF依次表示-32768到-1的数。32位有符号整数的储存方式也是类似的。稍加注意你会发现，二进制的第一位是用来表示正负号的，0表示正，1表示负。这里有一个问题：0本来既不是正数，也不是负数，但它占用了$0000的位置，因此有符号的整数类型范围中正数个数比负数少一个。对一个有符号的数进行not运算后，最高位的变化将导致正负颠倒，并且数的绝对值会差1。也就是说，not a实际上等于-a-1。这种整数储存方式叫做“补码”。

转自：http://www.matrix67.com/blog/archives/263

Hamming weight高效统计整数二进制表示中1的个数

tiger7456 — Thu, 05 Apr 2012 11:49:28 +0800

这是一个很有意思的问题，也是在面试中最容易被问到的问题之一。这个问题有个正式的名字叫Hamming_weight，而且wikipedia上也提供了很好的位运算解决的方法，这个下面也会提到。

解决这个问题的第一想法是一位一位的观察，判断是否为1，是则计数器加一，否则跳到下一位，于是很容易有这样的程序。

int test(int n){

  int count=0;

  while(n != 0){

      if(n%2 ==1)

      count++;

      n /= 2;

 return count;}

或者和其等价的位运算版本：

int test(int n){

    int count=0;

    while(n != 0){

        count += n&1;

        n >>= 1;

    return count;

这样的方法复杂度为二进制的位数，即，于是可是想一下，有没有只与二进制中1的位数相关的算法呢。

可以考虑每次找到从最低位开始遇到的第一个1，计数，再把它清零，清零的位运算操作是与一个零，但是在有1的这一位与零的操作要同时不影响未统计过的位数和已经统计过的位数，于是可以有这样一个操作 n&(n-1) ，这个操作对比当前操作位高的位没有影响，对低位则完全清零。拿6（110）来做例子，第一次 110&101=100，这次操作成功的把从低位起第一个1消掉了，同时计数器加1，第二次100&011=000，同理又统计了高位的一个1，此时n已变为0，不需要再继续了，于是110中有2个1。

代码如下：

int test(int n){

    int count=0;

    while(n != 0){

        n &= n-1;

        count ++;

    return count;

还有查表法：

const int idx[256]={0,1,1,,8}//0~255中含1的个数

int OneCount(unsigned int x)

  int count=0;

  for(; x>0; x>>=8)

     count+=idx[x&255];

  return count;

上面算法最多只需要4次循环，用空间换取时间。

这种算法的另一种形式：

const int idx[256]={0,1,1,..,8}

int OneCount(unsigned int x)

  unsigned char* p=(unsigned char*)&x;

  return idx[*p]+idx[*(p+1)]+idx[*(p+2)]+idx[*(p+3)];

这几个方法虽然也用到了位运算，但是并没有体现其神奇之处，下面这个版本则彰显位运算的强大能力，若不告诉这个函数的功能，一般一眼看上去是想不到这是做什么的，这也是wikipedia上给出的计算hamming_weight方法。

int test(int n){

    n = (n&0x55555555) + ((n>>1)&0x55555555);

    n = (n&0x33333333) + ((n>>2)&0x33333333);

    n = (n&0x0f0f0f0f) + ((n>>4)&0x0f0f0f0f);

    n = (n&0x00ff00ff) + ((n>>8)&0x00ff00ff);

    n = (n&0x0000ffff) + ((n>>16)&0x0000ffff);

    return n;

有循环，5个位运算语句，一次搞定。

比如这个例子，143的二进制表示是10001111，这里只有8位，高位的0怎么进行与的位运算也是0，所以只考虑低位的运算，按照这个算法走一次

+---+---+---+---+---+---+---+---+

| 1 | 0 | 0 | 0 | 1 | 1 | 1 | 1 | <---143

+---+---+---+---+---+---+---+---+

| 0 1 | 0 0 | 1 0 | 1 0 | <---第一次运算后

+-------+-------+-------+-------+

| 0 0 0 1 | 0 1 0 0 | <---第二次运算后

+---------------+---------------+

| 0 0 0 0 0 1 0 1 | <---第三次运算后，得数为5

+-------------------------------+

这里运用了分治的思想，先计算每对相邻的2位中有几个1，再计算每相邻的4位中有几个1，下来8位，16位，32位，因为2^5＝32，所以对于32位的机器，5条位运算语句就够了。

像这里第二行第一个格子中，01就表示前两位有1个1，00表示下来的两位中没有1，其实同理。再下来01+00=0001表示前四位中有1个1，同样的10+10=0100表示低四位中有4个1，最后一步0001+0100=00000101表示整个8位中有5个1。

Hamming weight原理讲解：Hamming weight

MySQL索引背后的数据结构及算法原理

tiger7456 — Fri, 30 Mar 2012 17:23:00 +0800

原文地址：http://www.codinglabs.org/html/theory-of-mysql-index.html#nav-2-1

摘要

本文以MySQL数据库为研究对象，讨论与数据库索引相关的一些话题。特别需要说明的是，MySQL支持诸多存储引擎，而各种存储引擎对索引的支持也各不相同，因此MySQL数据库支持多种索引类型，如BTree索引，哈希索引，全文索引等等。为了避免混乱，本文将只关注于BTree索引，因为这是平常使用MySQL时主要打交道的索引，至于哈希索引和全文索引本文暂不讨论。

文章主要内容分为三个部分。

第一部分主要从数据结构及算法理论层面讨论MySQL数据库索引的数理基础。

第二部分结合MySQL数据库中MyISAM和InnoDB数据存储引擎中索引的架构实现讨论聚集索引、非聚集索引及覆盖索引等话题。

第三部分根据上面的理论基础，讨论MySQL中高性能使用索引的策略。

摘要
 数据结构及算法基础
 索引的本质
 B-Tree和B+Tree
为什么使用B-Tree（B+Tree）
MySQL索引实现
 MyISAM索引实现
 InnoDB索引实现
 索引使用策略及优化
 示例数据库
 最左前缀原理与相关优化
 索引选择性与前缀索引
 InnoDB的主键选择与插入优化
 后记
 参考文献

数据结构及算法基础

索引的本质

MySQL官方对索引的定义为：索引（Index）是帮助MySQL高效获取数据的数据结构。提取句子主干，就可以得到索引的本质：索引是数据结构。

我们知道，数据库查询是数据库的最主要功能之一。我们都希望查询数据的速度能尽可能的快，因此数据库系统的设计者会从查询算法的角度进行优化。最基本的查询算法当然是顺序查找（linear search），这种复杂度为O(n)的算法在数据量很大时显然是糟糕的，好在计算机科学的发展提供了很多更优秀的查找算法，例如二分查找（binary search）、二叉树查找（binary tree search）等。如果稍微分析一下会发现，每种查找算法都只能应用于特定的数据结构之上，例如二分查找要求被检索数据有序，而二叉树查找只能应用于二叉查找树上，但是数据本身的组织结构不可能完全满足各种数据结构（例如，理论上不可能同时将两列都按顺序进行组织），所以，在数据之外，数据库系统还维护着满足特定查找算法的数据结构，这些数据结构以某种方式引用（指向）数据，这样就可以在这些数据结构上实现高级查找算法。这种数据结构，就是索引。

看一个例子：

图1

图1展示了一种可能的索引方式。左边是数据表，一共有两列七条记录，最左边的是数据记录的物理地址（注意逻辑上相邻的记录在磁盘上也并不是一定物理相邻的）。为了加快Col2的查找，可以维护一个右边所示的二叉查找树，每个节点分别包含索引键值和一个指向对应数据记录物理地址的指针，这样就可以运用二叉查找在O(log₂n)的复杂度内获取到相应数据。

虽然这是一个货真价实的索引，但是实际的数据库系统几乎没有使用二叉查找树或其进化品种红黑树（red-black tree）实现的，原因会在下文介绍。

B-Tree和B+Tree

目前大部分数据库系统及文件系统都采用B-Tree或其变种B+Tree作为索引结构，在本文的下一节会结合存储器原理及计算机存取原理讨论为什么B-Tree和B+Tree在被如此广泛用于索引，这一节先单纯从数据结构角度描述它们。

B-Tree

为了描述B-Tree，首先定义一条数据记录为一个二元组[key, data]，key为记录的键值，对于不同数据记录，key是互不相同的；data为数据记录除key外的数据。那么B-Tree是满足下列条件的数据结构：

d为大于1的一个正整数，称为B-Tree的度。
h为一个正整数，称为B-Tree的高度。
每个非叶子节点由n-1个key和n个指针组成，其中d<=n<=2d。
每个叶子节点最少包含一个key和两个指针，最多包含2d-1个key和2d个指针，叶节点的指针均为null 。
所有叶节点具有相同的深度，等于树高h。
key和指针互相间隔，节点两端是指针。
一个节点中的key从左到右非递减排列。
所有节点组成树结构。
每个指针要么为null，要么指向另外一个节点。
如果某个指针在节点node最左边且不为null，则其指向节点的所有key小于v(key₁)，其中v(key₁)为node的第一个key的值。
如果某个指针在节点node最右边且不为null，则其指向节点的所有key大于v(key_m)，其中v(key_m)为node的最后一个key的值。
如果某个指针在节点node的左右相邻key分别是key_i和key_i+1且不为null，则其指向节点的所有key小于v(key_i+1)且大于v(key_i)。

图2是一个d=2的B-Tree示意图。

图2

由于B-Tree的特性，在B-Tree中按key检索数据的算法非常直观：首先从根节点进行二分查找，如果找到则返回对应节点的data，否则对相应区间的指针指向的节点递归进行查找，直到找到节点或找到null指针，前者查找成功，后者查找失败。B-Tree上查找算法的伪代码如下：

BTree_Search(node, key)

{

if(node == null) return null;

foreach(node.key)

{

if(node.key[i] == key) return node.data[i];

if(node.key[i] > key) return BTree_Search(point[i]->node);

}

return BTree_Search(point[i+1]->node);

}

data = BTree_Search(root, my_key);

关于B-Tree有一系列有趣的性质，例如一个度为d的B-Tree，设其索引N个key，则其树高h的上限为log_d((N+1)/2)，检索一个key，其查找节点个数的渐进复杂度为O(log_dN)。从这点可以看出，B-Tree是一个非常有效率的索引数据结构。

另外，由于插入删除新的数据记录会破坏B-Tree的性质，因此在插入删除时，需要对树进行一个分裂、合并、转移等操作以保持B-Tree性质，本文不打算完整讨论B-Tree这些内容，因为已经有许多资料详细说明了B-Tree的数学性质及插入删除算法，有兴趣的朋友可以在本文末的参考文献一栏找到相应的资料进行阅读。

B+Tree

B-Tree有许多变种，其中最常见的是B+Tree，例如MySQL就普遍使用B+Tree实现其索引结构。

与B-Tree相比，B+Tree有以下不同点：

每个节点的指针上限为2d而不是2d+1。
内节点不存储data，只存储key；叶子节点不存储指针。

图3是一个简单的B+Tree示意。

图3

由于并不是所有节点都具有相同的域，因此B+Tree中叶节点和内节点一般大小不同。这点与B-Tree不同，虽然B-Tree中不同节点存放的key和指针可能数量不一致，但是每个节点的域和上限是一致的，所以在实现中B-Tree往往对每个节点申请同等大小的空间。

一般来说，B+Tree比B-Tree更适合实现外存储索引结构，具体原因与外存储器原理及计算机存取原理有关，将在下面讨论。

带有顺序访问指针的B+Tree

一般在数据库系统或文件系统中使用的B+Tree结构都在经典B+Tree的基础上进行了优化，增加了顺序访问指针。

图4

如图4所示，在B+Tree的每个叶子节点增加一个指向相邻叶子节点的指针，就形成了带有顺序访问指针的B+Tree。做这个优化的目的是为了提高区间访问的性能，例如图4中如果要查询key为从18到49的所有数据记录，当找到18后，只需顺着节点和指针顺序遍历就可以一次性访问到所有数据节点，极大提到了区间查询效率。

这一节对B-Tree和B+Tree进行了一个简单的介绍，下一节结合存储器存取原理介绍为什么目前B+Tree是数据库系统实现索引的首选数据结构。

为什么使用B-Tree（B+Tree）

上文说过，红黑树等数据结构也可以用来实现索引，但是文件系统及数据库系统普遍采用B-/+Tree作为索引结构，这一节将结合计算机组成原理相关知识讨论B-/+Tree作为索引的理论基础。

一般来说，索引本身也很大，不可能全部存储在内存中，因此索引往往以索引文件的形式存储的磁盘上。这样的话，索引查找过程中就要产生磁盘I/O消耗，相对于内存存取，I/O存取的消耗要高几个数量级，所以评价一个数据结构作为索引的优劣最重要的指标就是在查找过程中磁盘I/O操作次数的渐进复杂度。换句话说，索引的结构组织要尽量减少查找过程中磁盘I/O的存取次数。下面先介绍内存和磁盘存取原理，然后再结合这些原理分析B-/+Tree作为索引的效率。

主存存取原理

目前计算机使用的主存基本都是随机读写存储器（RAM），现代RAM的结构和存取原理比较复杂，这里本文抛却具体差别，抽象出一个十分简单的存取模型来说明RAM的工作原理。

图5

从抽象角度看，主存是一系列的存储单元组成的矩阵，每个存储单元存储固定大小的数据。每个存储单元有唯一的地址，现代主存的编址规则比较复杂，这里将其简化成一个二维地址：通过一个行地址和一个列地址可以唯一定位到一个存储单元。图5展示了一个4 x 4的主存模型。

主存的存取过程如下：

当系统需要读取主存时，则将地址信号放到地址总线上传给主存，主存读到地址信号后，解析信号并定位到指定存储单元，然后将此存储单元数据放到数据总线上，供其它部件读取。

写主存的过程类似，系统将要写入单元地址和数据分别放在地址总线和数据总线上，主存读取两个总线的内容，做相应的写操作。

这里可以看出，主存存取的时间仅与存取次数呈线性关系，因为不存在机械操作，两次存取的数据的“距离”不会对时间有任何影响，例如，先取A0再取A1和先取A0再取D3的时间消耗是一样的。

磁盘存取原理

上文说过，索引一般以文件形式存储在磁盘上，索引检索需要磁盘I/O操作。与主存不同，磁盘I/O存在机械运动耗费，因此磁盘I/O的时间消耗是巨大的。

图6是磁盘的整体结构示意图。

图6

一个磁盘由大小相同且同轴的圆形盘片组成，磁盘可以转动（各个磁盘必须同步转动）。在磁盘的一侧有磁头支架，磁头支架固定了一组磁头，每个磁头负责存取一个磁盘的内容。磁头不能转动，但是可以沿磁盘半径方向运动（实际是斜切向运动），每个磁头同一时刻也必须是同轴的，即从正上方向下看，所有磁头任何时候都是重叠的（不过目前已经有多磁头独立技术，可不受此限制）。

图7是磁盘结构的示意图。

图7

盘片被划分成一系列同心环，圆心是盘片中心，每个同心环叫做一个磁道，所有半径相同的磁道组成一个柱面。磁道被沿半径线划分成一个个小的段，每个段叫做一个扇区，每个扇区是磁盘的最小存储单元。为了简单起见，我们下面假设磁盘只有一个盘片和一个磁头。

当需要从磁盘读取数据时，系统会将数据逻辑地址传给磁盘，磁盘的控制电路按照寻址逻辑将逻辑地址翻译成物理地址，即确定要读的数据在哪个磁道，哪个扇区。为了读取这个扇区的数据，需要将磁头放到这个扇区上方，为了实现这一点，磁头需要移动对准相应磁道，这个过程叫做寻道，所耗费时间叫做寻道时间，然后磁盘旋转将目标扇区旋转到磁头下，这个过程耗费的时间叫做旋转时间。

局部性原理与磁盘预读

由于存储介质的特性，磁盘本身存取就比主存慢很多，再加上机械运动耗费，磁盘的存取速度往往是主存的几百分分之一，因此为了提高效率，要尽量减少磁盘I/O。为了达到这个目的，磁盘往往不是严格按需读取，而是每次都会预读，即使只需要一个字节，磁盘也会从这个位置开始，顺序向后读取一定长度的数据放入内存。这样做的理论依据是计算机科学中著名的局部性原理：

当一个数据被用到时，其附近的数据也通常会马上被使用。

程序运行期间所需要的数据通常比较集中。

由于磁盘顺序读取的效率很高（不需要寻道时间，只需很少的旋转时间），因此对于具有局部性的程序来说，预读可以提高I/O效率。

预读的长度一般为页（page）的整倍数。页是计算机管理存储器的逻辑块，硬件及操作系统往往将主存和磁盘存储区分割为连续的大小相等的块，每个存储块称为一页（在许多操作系统中，页得大小通常为4k），主存和磁盘以页为单位交换数据。当程序要读取的数据不在主存中时，会触发一个缺页异常，此时系统会向磁盘发出读盘信号，磁盘会找到数据的起始位置并向后连续读取一页或几页载入内存中，然后异常返回，程序继续运行。

B-/+Tree索引的性能分析

到这里终于可以分析B-/+Tree索引的性能了。

上文说过一般使用磁盘I/O次数评价索引结构的优劣。先从B-Tree分析，根据B-Tree的定义，可知检索一次最多需要访问h个节点。数据库系统的设计者巧妙利用了磁盘预读原理，将一个节点的大小设为等于一个页，这样每个节点只需要一次I/O就可以完全载入。为了达到这个目的，在实际实现B-Tree还需要使用如下技巧：

每次新建节点时，直接申请一个页的空间，这样就保证一个节点物理上也存储在一个页里，加之计算机存储分配都是按页对齐的，就实现了一个node只需一次I/O。

B-Tree中一次检索最多需要h-1次I/O（根节点常驻内存），渐进复杂度为O(h)=O(log_dN)。一般实际应用中，出度d是非常大的数字，通常超过100，因此h非常小（通常不超过3）。

综上所述，用B-Tree作为索引结构效率是非常高的。

而红黑树这种结构，h明显要深的多。由于逻辑上很近的节点（父子）物理上可能很远，无法利用局部性，所以红黑树的I/O渐进复杂度也为O(h)，效率明显比B-Tree差很多。

上文还说过，B+Tree更适合外存索引，原因和内节点出度d有关。从上面分析可以看到，d越大索引的性能越好，而出度的上限取决于节点内key和data的大小：

d_max = floor(pagesize / (keysize + datasize + pointsize)) (pagesize – dmax >= pointsize)

或

d_max = floor(pagesize / (keysize + datasize + pointsize)) – 1 (pagesize – dmax < pointsize)

floor表示向下取整。由于B+Tree内节点去掉了data域，因此可以拥有更大的出度，拥有更好的性能。

这一章从理论角度讨论了与索引相关的数据结构与算法问题，下一章将讨论B+Tree是如何具体实现为MySQL中索引，同时将结合MyISAM和InnDB存储引擎介绍非聚集索引和聚集索引两种不同的索引实现形式。

MySQL索引实现

在MySQL中，索引属于存储引擎级别的概念，不同存储引擎对索引的实现方式是不同的，本文主要讨论MyISAM和InnoDB两个存储引擎的索引实现方式。

MyISAM索引实现

MyISAM引擎使用B+Tree作为索引结构，叶节点的data域存放的是数据记录的地址。下图是MyISAM索引的原理图：

图8

这里设表一共有三列，假设我们以Col1为主键，则图8是一个MyISAM表的主索引（Primary key）示意。可以看出MyISAM的索引文件仅仅保存数据记录的地址。在MyISAM中，主索引和辅助索引（Secondary key）在结构上没有任何区别，只是主索引要求key是唯一的，而辅助索引的key可以重复。如果我们在Col2上建立一个辅助索引，则此索引的结构如下图所示：

图9

同样也是一颗B+Tree，data域保存数据记录的地址。因此，MyISAM中索引检索的算法为首先按照B+Tree搜索算法搜索索引，如果指定的Key存在，则取出其data域的值，然后以data域的值为地址，读取相应数据记录。

MyISAM的索引方式也叫做“非聚集”的，之所以这么称呼是为了与InnoDB的聚集索引区分。

InnoDB索引实现

虽然InnoDB也使用B+Tree作为索引结构，但具体实现方式却与MyISAM截然不同。

第一个重大区别是InnoDB的数据文件本身就是索引文件。从上文知道，MyISAM索引文件和数据文件是分离的，索引文件仅保存数据记录的地址。而在InnoDB中，表数据文件本身就是按B+Tree组织的一个索引结构，这棵树的叶节点data域保存了完整的数据记录。这个索引的key是数据表的主键，因此InnoDB表数据文件本身就是主索引。

图10

图10是InnoDB主索引（同时也是数据文件）的示意图，可以看到叶节点包含了完整的数据记录。这种索引叫做聚集索引。因为InnoDB的数据文件本身要按主键聚集，所以InnoDB要求表必须有主键（MyISAM可以没有），如果没有显式指定，则MySQL系统会自动选择一个可以唯一标识数据记录的列作为主键，如果不存在这种列，则MySQL自动为InnoDB表生成一个隐含字段作为主键，这个字段长度为6个字节，类型为长整形。

第二个与MyISAM索引的不同是InnoDB的辅助索引data域存储相应记录主键的值而不是地址。换句话说，InnoDB的所有辅助索引都引用主键作为data域。例如，图11为定义在Col3上的一个辅助索引：

图11

这里以英文字符的ASCII码作为比较准则。聚集索引这种实现方式使得按主键的搜索十分高效，但是辅助索引搜索需要检索两遍索引：首先检索辅助索引获得主键，然后用主键到主索引中检索获得记录。

了解不同存储引擎的索引实现方式对于正确使用和优化索引都非常有帮助，例如知道了InnoDB的索引实现后，就很容易明白为什么不建议使用过长的字段作为主键，因为所有辅助索引都引用主索引，过长的主索引会令辅助索引变得过大。再例如，用非单调的字段作为主键在InnoDB中不是个好主意，因为InnoDB数据文件本身是一颗B+Tree，非单调的主键会造成在插入新记录时数据文件为了维持B+Tree的特性而频繁的分裂调整，十分低效，而使用自增字段作为主键则是一个很好的选择。

下一章将具体讨论这些与索引有关的优化策略。

索引使用策略及优化

MySQL的优化主要分为结构优化（Scheme optimization）和查询优化（Query optimization）。本章讨论的高性能索引策略主要属于结构优化范畴。本章的内容完全基于上文的理论基础，实际上一旦理解了索引背后的机制，那么选择高性能的策略就变成了纯粹的推理，并且可以理解这些策略背后的逻辑。

示例数据库

为了讨论索引策略，需要一个数据量不算小的数据库作为示例。本文选用MySQL官方文档中提供的示例数据库之一：employees。这个数据库关系复杂度适中，且数据量较大。下图是这个数据库的E-R关系图（引用自MySQL官方手册）：

图12

MySQL官方文档中关于此数据库的页面为http://dev.mysql.com/doc/employee/en/employee.html。里面详细介绍了此数据库，并提供了下载地址和导入方法，如果有兴趣导入此数据库到自己的MySQL可以参考文中内容。

最左前缀原理与相关优化

高效使用索引的首要条件是知道什么样的查询会使用到索引，这个问题和B+Tree中的“最左前缀原理”有关，下面通过例子说明最左前缀原理。

这里先说一下联合索引的概念。在上文中，我们都是假设索引只引用了单个的列，实际上，MySQL中的索引可以以一定顺序引用多个列，这种索引叫做联合索引，一般的，一个联合索引是一个有序元组<a1, a2, …, an>，其中各个元素均为数据表的一列，实际上要严格定义索引需要用到关系代数，但是这里我不想讨论太多关系代数的话题，因为那样会显得很枯燥，所以这里就不再做严格定义。另外，单列索引可以看成联合索引元素数为1的特例。

以employees.titles表为例，下面先查看其上都有哪些索引：

SHOW INDEX FROM employees.titles;

+--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+

+--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+

| titles | 0 | PRIMARY | 1 | emp_no | A | NULL | | BTREE |

| titles | 0 | PRIMARY | 2 | title | A | NULL | | BTREE |

| titles | 0 | PRIMARY | 3 | from_date | A | 443308 | | BTREE |

| titles | 1 | emp_no | 1 | emp_no | A | 443308 | | BTREE |

+--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+

从结果中可以到titles表的主索引为<emp_no, title, from_date>，还有一个辅助索引<emp_no>。为了避免多个索引使事情变复杂（MySQL的SQL优化器在多索引时行为比较复杂），这里我们将辅助索引drop掉：

ALTER TABLE employees.titles DROP INDEX emp_no;

这样就可以专心分析索引PRIMARY的行为了。

情况一：全列匹配。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND title='Senior Engineer' AND from_date='1986-06-26';

+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

| 1 | SIMPLE | titles | const | PRIMARY | PRIMARY | 59 | const,const,const | 1 | |

+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

很明显，当按照索引中所有列进行精确匹配（这里精确匹配指“=”或“IN”匹配）时，索引可以被用到。这里有一点需要注意，理论上索引对顺序是敏感的，但是由于MySQL的查询优化器会自动调整where子句的条件顺序以使用适合的索引，例如我们将where中的条件顺序颠倒：

EXPLAIN SELECT * FROM employees.titles WHERE from_date='1986-06-26' AND emp_no='10001' AND title='Senior Engineer';

+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

| 1 | SIMPLE | titles | const | PRIMARY | PRIMARY | 59 | const,const,const | 1 | |

+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

效果是一样的。

情况二：最左前缀匹配。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001';

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------+

| 1 | SIMPLE | titles | ref | PRIMARY | PRIMARY | 4 | const | 1 | |

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------+

当查询条件精确匹配索引的左边连续一个或几个列时，如<emp_no>或<emp_no, title>，所以可以被用到，但是只能用到一部分，即条件所组成的最左前缀。上面的查询从分析结果看用到了PRIMARY索引，但是key_len为4，说明只用到了索引的第一列前缀。

情况三：查询条件用到了索引中列的精确匹配，但是中间某个条件未提供。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND from_date='1986-06-26';

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

| 1 | SIMPLE | titles | ref | PRIMARY | PRIMARY | 4 | const | 1 | Using where |

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

此时索引使用情况和情况二相同，因为title未提供，所以查询只用到了索引的第一列，而后面的from_date虽然也在索引中，但是由于title不存在而无法和左前缀连接，因此需要对结果进行扫描过滤from_date（这里由于emp_no唯一，所以不存在扫描）。如果想让from_date也使用索引而不是where过滤，可以增加一个辅助索引<emp_no, from_date>，此时上面的查询会使用这个索引。除此之外，还可以使用一种称之为“隔离列”的优化方法，将emp_no与from_date之间的“坑”填上。

首先我们看下title一共有几种不同的值：

SELECT DISTINCT(title) FROM employees.titles;

+--------------------+

| title |

+--------------------+

| Senior Engineer |

| Staff |

| Engineer |

| Senior Staff |

| Assistant Engineer |

| Technique Leader |

| Manager |

+--------------------+

只有7种。在这种成为“坑”的列值比较少的情况下，可以考虑用“IN”来填补这个“坑”从而形成最左前缀：

EXPLAIN SELECT * FROM employees.titles

WHERE emp_no='10001'

AND title IN ('Senior Engineer', 'Staff', 'Engineer', 'Senior Staff', 'Assistant Engineer', 'Technique Leader', 'Manager')

AND from_date='1986-06-26';

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 59 | NULL | 7 | Using where |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

这次key_len为59，说明索引被用全了，但是从type和rows看出IN实际上执行了一个range查询，这里检查了7个key。看下两种查询的性能比较：

SHOW PROFILES;

+----------+------------+-------------------------------------------------------------------------------+

| Query_ID | Duration | Query |

+----------+------------+-------------------------------------------------------------------------------+

| 10 | 0.00058000 | SELECT * FROM employees.titles WHERE emp_no='10001' AND from_date='1986-06-26'|

| 11 | 0.00052500 | SELECT * FROM employees.titles WHERE emp_no='10001' AND title IN ... |

+----------+------------+-------------------------------------------------------------------------------+

“填坑”后性能提升了一点。如果经过emp_no筛选后余下很多数据，则后者性能优势会更加明显。当然，如果title的值很多，用填坑就不合适了，必须建立辅助索引。

情况四：查询条件没有指定索引第一列。

EXPLAIN SELECT * FROM employees.titles WHERE from_date='1986-06-26';

+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

| 1 | SIMPLE | titles | ALL | NULL | NULL | NULL | NULL | 443308 | Using where |

+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

由于不是最左前缀，索引这样的查询显然用不到索引。

情况五：匹配某列的前缀字符串。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND title LIKE 'Senior%';

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 56 | NULL | 1 | Using where |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

此时可以用到索引，但是如果通配符不是只出现在末尾，则无法使用索引。（原文表述有误，如果通配符%不出现在开头，则可以用到索引，但根据具体情况不同可能只会用其中一个前缀）

情况六：范围查询。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no < '10010' and title='Senior Engineer';

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 4 | NULL | 16 | Using where |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

范围列可以用到索引（必须是最左前缀），但是范围列后面的列无法用到索引。同时，索引最多用于一个范围列，因此如果查询条件中有两个范围列则无法全用到索引。

EXPLAIN SELECT * FROM employees.titles

WHERE emp_no < 10010'

AND title='Senior Engineer'

AND from_date BETWEEN '1986-01-01' AND '1986-12-31';

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 4 | NULL | 16 | Using where |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

可以看到索引对第二个范围索引无能为力。这里特别要说明MySQL一个有意思的地方，那就是仅用explain可能无法区分范围索引和多值匹配，因为在type中这两者都显示为range。同时，用了“between”并不意味着就是范围查询，例如下面的查询：

EXPLAIN SELECT * FROM employees.titles

WHERE emp_no BETWEEN '10001' AND '10010'

AND title='Senior Engineer'

AND from_date BETWEEN '1986-01-01' AND '1986-12-31';

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

| 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 59 | NULL | 16 | Using where |

+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

看起来是用了两个范围查询，但作用于emp_no上的“BETWEEN”实际上相当于“IN”，也就是说emp_no实际是多值精确匹配。可以看到这个查询用到了索引全部三个列。因此在MySQL中要谨慎地区分多值匹配和范围匹配，否则会对MySQL的行为产生困惑。

情况七：查询条件中含有函数或表达式。

很不幸，如果查询条件中含有函数或表达式，则MySQL不会为这列使用索引（虽然某些在数学意义上可以使用）。例如：

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND left(title, 6)='Senior';

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

| 1 | SIMPLE | titles | ref | PRIMARY | PRIMARY | 4 | const | 1 | Using where |

+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

虽然这个查询和情况五中功能相同，但是由于使用了函数left，则无法为title列应用索引，而情况五中用LIKE则可以。再如：

EXPLAIN SELECT * FROM employees.titles WHERE emp_no - 1='10000';

+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

| 1 | SIMPLE | titles | ALL | NULL | NULL | NULL | NULL | 443308 | Using where |

+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

显然这个查询等价于查询emp_no为10001的函数，但是由于查询条件是一个表达式，MySQL无法为其使用索引。看来MySQL还没有智能到自动优化常量表达式的程度，因此在写查询语句时尽量避免表达式出现在查询中，而是先手工私下代数运算，转换为无表达式的查询语句。

索引选择性与前缀索引

既然索引可以加快查询速度，那么是不是只要是查询语句需要，就建上索引？答案是否定的。因为索引虽然加快了查询速度，但索引也是有代价的：索引文件本身要消耗存储空间，同时索引会加重插入、删除和修改记录时的负担，另外，MySQL在运行时也要消耗资源维护索引，因此索引并不是越多越好。一般两种情况下不建议建索引。

第一种情况是表记录比较少，例如一两千条甚至只有几百条记录的表，没必要建索引，让查询做全表扫描就好了。至于多少条记录才算多，这个个人有个人的看法，我个人的经验是以2000作为分界线，记录数不超过 2000可以考虑不建索引，超过2000条可以酌情考虑索引。

另一种不建议建索引的情况是索引的选择性较低。所谓索引的选择性（Selectivity），是指不重复的索引值（也叫基数，Cardinality）与表记录数（#T）的比值：

Index Selectivity = Cardinality / #T

显然选择性的取值范围为(0, 1]，选择性越高的索引价值越大，这是由B+Tree的性质决定的。例如，上文用到的employees.titles表，如果title字段经常被单独查询，是否需要建索引，我们看一下它的选择性：

SELECT count(DISTINCT(title))/count(*) AS Selectivity FROM employees.titles;

+-------------+

| Selectivity |

+-------------+

| 0.0000 |

+-------------+

title的选择性不足0.0001（精确值为0.00001579），所以实在没有什么必要为其单独建索引。

有一种与索引选择性有关的索引优化策略叫做前缀索引，就是用列的前缀代替整个列作为索引key，当前缀长度合适时，可以做到既使得前缀索引的选择性接近全列索引，同时因为索引key变短而减少了索引文件的大小和维护开销。下面以employees.employees表为例介绍前缀索引的选择和使用。

从图12可以看到employees表只有一个索引<emp_no>，那么如果我们想按名字搜索一个人，就只能全表扫描了：

EXPLAIN SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido';

+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+

| 1 | SIMPLE | employees | ALL | NULL | NULL | NULL | NULL | 300024 | Using where |

+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+

如果频繁按名字搜索员工，这样显然效率很低，因此我们可以考虑建索引。有两种选择，建<first_name>或<first_name, last_name>，看下两个索引的选择性：

SELECT count(DISTINCT(first_name))/count(*) AS Selectivity FROM employees.employees;

+-------------+

| Selectivity |

+-------------+

| 0.0042 |

+-------------+

SELECT count(DISTINCT(concat(first_name, last_name)))/count(*) AS Selectivity FROM employees.employees;

+-------------+

| Selectivity |

+-------------+

| 0.9313 |

+-------------+

<first_name>显然选择性太低，<first_name, last_name>选择性很好，但是first_name和last_name加起来长度为30，有没有兼顾长度和选择性的办法？可以考虑用first_name和last_name的前几个字符建立索引，例如<first_name, left(last_name, 3)>，看看其选择性：

SELECT count(DISTINCT(concat(first_name, left(last_name, 3))))/count(*) AS Selectivity FROM employees.employees;

+-------------+

| Selectivity |

+-------------+

| 0.7879 |

+-------------+

选择性还不错，但离0.9313还是有点距离，那么把last_name前缀加到4：

SELECT count(DISTINCT(concat(first_name, left(last_name, 4))))/count(*) AS Selectivity FROM employees.employees;

+-------------+

| Selectivity |

+-------------+

| 0.9007 |

+-------------+

这时选择性已经很理想了，而这个索引的长度只有18，比<first_name, last_name>短了接近一半，我们把这个前缀索引建上：

ALTER TABLE employees.employees

ADD INDEX `first_name_last_name4` (first_name, last_name(4));

此时再执行一遍按名字查询，比较分析一下与建索引前的结果：

SHOW PROFILES;

+----------+------------+---------------------------------------------------------------------------------+

| Query_ID | Duration | Query |

+----------+------------+---------------------------------------------------------------------------------+

| 87 | 0.11941700 | SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido' |

| 90 | 0.00092400 | SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido' |

+----------+------------+---------------------------------------------------------------------------------+

性能的提升是显著的，查询速度提高了120多倍。

前缀索引兼顾索引大小和查询速度，但是其缺点是不能用于ORDER BY和GROUP BY操作，也不能用于Covering index（即当索引本身包含查询所需全部数据时，不再访问数据文件本身）。

InnoDB的主键选择与插入优化

在使用InnoDB存储引擎时，如果没有特别的需要，请永远使用一个与业务无关的自增字段作为主键。

经常看到有帖子或博客讨论主键选择问题，有人建议使用业务无关的自增主键，有人觉得没有必要，完全可以使用如学号或身份证号这种唯一字段作为主键。不论支持哪种论点，大多数论据都是业务层面的。如果从数据库索引优化角度看，使用InnoDB引擎而不使用自增主键绝对是一个糟糕的主意。

上文讨论过InnoDB的索引实现，InnoDB使用聚集索引，数据记录本身被存于主索引（一颗B+Tree）的叶子节点上。这就要求同一个叶子节点内（大小为一个内存页或磁盘页）的各条数据记录按主键顺序存放，因此每当有一条新的记录插入时，MySQL会根据其主键将其插入适当的节点和位置，如果页面达到装载因子（InnoDB默认为15/16），则开辟一个新的页（节点）。

如果表使用自增主键，那么每次插入新的记录，记录就会顺序添加到当前索引节点的后续位置，当一页写满，就会自动开辟一个新的页。如下图所示：

图13

这样就会形成一个紧凑的索引结构，近似顺序填满。由于每次插入时也不需要移动已有数据，因此效率很高，也不会增加很多开销在维护索引上。

如果使用非自增主键（如果身份证号或学号等），由于每次插入主键的值近似于随机，因此每次新纪录都要被插到现有索引页得中间某个位置：

图14

此时MySQL不得不为了将新记录插到合适位置而移动数据，甚至目标页面可能已经被回写到磁盘上而从缓存中清掉，此时又要从磁盘上读回来，这增加了很多开销，同时频繁的移动、分页操作造成了大量的碎片，得到了不够紧凑的索引结构，后续不得不通过OPTIMIZE TABLE来重建表并优化填充页面。

因此，只要可以，请尽量在InnoDB上采用自增字段做主键。

后记

这篇文章断断续续写了半个月，主要内容就是上面这些了。不可否认，这篇文章在一定程度上有纸上谈兵之嫌，因为我本人对MySQL的使用属于菜鸟级别，更没有太多数据库调优的经验，在这里大谈数据库索引调优有点大言不惭。就当是我个人的一篇学习笔记了。

其实数据库索引调优是一项技术活，不能仅仅靠理论，因为实际情况千变万化，而且MySQL本身存在很复杂的机制，如查询优化策略和各种引擎的实现差异等都会使情况变得更加复杂。但同时这些理论是索引调优的基础，只有在明白理论的基础上，才能对调优策略进行合理推断并了解其背后的机制，然后结合实践中不断的实验和摸索，从而真正达到高效使用MySQL索引的目的。

另外，MySQL索引及其优化涵盖范围非常广，本文只是涉及到其中一部分。如与排序（ORDER BY）相关的索引优化及覆盖索引（Covering index）的话题本文并未涉及，同时除B-Tree索引外MySQL还根据不同引擎支持的哈希索引、全文索引等等本文也并未涉及。如果有机会，希望再对本文未涉及的部分进行补充吧。

参考文献

[1] Baron Scbwartz等著，王小东等译；高性能MySQL（High Performance MySQL）；电子工业出版社，2010

[2] Michael Kofler 著，杨晓云等译；MySQL5权威指南（The Definitive Guide to MySQL5）；人民邮电出版社，2006

[3] 姜承尧著；MySQL技术内幕-InnoDB存储引擎；机械工业出版社，2011

[4] D Comer, Ubiquitous B-tree; ACM Computing Surveys (CSUR), 1979

[5] Codd, E. F. (1970). “A relational model of data for large shared data banks”. Communications of the ACM, , Vol. 13, No. 6, pp. 377-387

[6] MySQL5.1参考手册 – http://dev.mysql.com/doc/refman/5.1/zh/index.html