从海量数据中找出最小的k个数

来源:互联网 发布:发微博显示mac客户端 编辑:程序博客网 时间:2024/06/10 18:07

    从大量(海量)数据中查找最小的k(k一般比较小)个数,这是笔试中常考的题目。  如果是从少量数据中查找最小的k个数据,并且允许修改允许修改原始数据,侧利用Partition()函数,在O(N)的时间复杂度,O(1)的空间复杂度就可以找到最小的k个数据。

   从大量数据中查找最小的k个数,我们可以利用一个容器先存储前k个数据,然后从数据中读取下一个数,判断该数是与容器中最大的数的大小,如果该数较大或相等,侧读取下一个数,如果该数比容器中最大数小,侧删除容器中该最大数,将该数放入容器中,然后读取下一个数...

  从容器中选择最大的数,可以知道该容器应该是大根堆,或二叉排序树,红黑树。下面是以multiset为容器实现该算法。

#include "stdafx.h"#include  <iostream>#include <vector>#include <set>#include <ctime>using namespace std;typedef multiset<int,greater<int>> Set;typedef multiset<int,greater<int>>::const_iterator Set_iterator;void getLeastNumbers(const vector<int> & numbers,Set & leastNumbers,int k){   leastNumbers.clear();   if(k<=0 || numbers.size()<k)   return ;   for(vector<int>::const_iterator ite=numbers.begin();ite!=numbers.end();ite++)   {      if(leastNumbers.size()<k)  {  leastNumbers.insert(*ite);  }  else  {  Set_iterator IteratorFirst=leastNumbers.begin();//最大的元素  if(*ite<*IteratorFirst)  {  leastNumbers.erase(IteratorFirst);  leastNumbers.insert(*ite);  }  }   }}int _tmain(int argc, _TCHAR* argv[]){//int a[]={4,5,1,6,2,7,3,8};//int length=sizeof(a)/sizeof(int);//vector<int> numbers(a,a+length-1);    srand((unsigned)time(0));vector<int> numbers;for(int i=0;i<100000;i++)       numbers.push_back(rand());for(vector<int>::iterator ite=numbers.begin();ite!=numbers.end();ite++)cout<<*ite<<" ";cout<<endl;    Set leastNumbers;    int k=4;getLeastNumbers(numbers,leastNumbers,k);for(Set_iterator ite=leastNumbers.begin();ite!=leastNumbers.end();ite++){   cout<<*ite<<" ";}system("PAUSE");return 0;}

该算法的时间复杂度为:NlogK,空间复杂度为O(k)。我们不需要一次性将数据全部放入内存,只需从硬盘一次读一个数据到内存即可,但是内存必须够容纳容器(multiset)中的K个数。


原创粉丝点击